Ethique : la clé pour créer un numérique responsable
Le mot "éthique" fait désormais partie du vocabulaire courant quand on parle d'intelligence artificielle (IA). Au-delà de l'IA, ces principes moraux devraient guider tous nos projets numériques. Que vous lanciez un nouveau service, un produit high-tech ou un algorithme, intégrer l'éthique dès la conception est indispensable.
Nous sommes certainement tous conscients des potentiels biais discriminatoires d'une IA, notamment liés au genre, à l'origine ou au milieu social. Ces défauts découlent généralement directement des données utilisées pour entraîner l'IA. L'éthique est un ensemble de principes moraux, qui ne se limite pas à cela! Les récentes révélations par les médias (voir la section "mes lectures" ci-après) vont élargir le champ des discussions, mais surtout des réflexions que nous devons prendre en compte lors de chaque projet, qu'il soit informatique ou pas. Cette problématique, qui a fait débat la semaine passée, porte sur un drone tueur en Ukraine. Ce dernier utilise un code informatique open source, développé par des étudiants d'une haute école suisse, il y a une quinzaine d'années. Désormais, lors de tous projets, il faut considérer en plus des biais algorithmiques, les aspects légaux nationaux et internationaux, la transparence, la responsabilité, la protection des données, la sécurité, l'impact environnemental et sociétal, l'autonomie décisionnelle et certainement bien d'autres points.
Pour y arriver, il faut se poser une multitude de questions sur les utilisations possibles, afin d'examiner leurs conséquences. Lors d'un nouveau projet, nous penserons naturellement à certains aspects éthiques et légaux, mais il faudra se poser des dizaines, voire des centaines de questions, pour définir les valeurs morales profondes de celui-ci. C'est un exercice difficile quand on est bienveillant et que l'on souhaite aider le monde. Par conséquent, il faudra s'appuyer sur des guides plus précis que les chartes actuelles. Ces dernières ne font que lister quelques fondements génériques, comme s'interroger sur les conséquences potentielles des résultats sur la société et l'environnement.
À l'instar de ce que préconise la loi fédérale (Suisse) sur la protection des données (LPD), il faut que l'éthique soit prise en compte dès la conception, et ce par défaut. Il ne faut pas oublier un contrôle continu qui permettra de détecter et corriger les dérives contraires à l'éthique.
Pour conclure, intégrer l'éthique dès la conception n'est pas une option! C'est une obligation pour créer un nouveau service ou un produit high-tech ou une IA réellement bénéfique pour la société, en tenant compte des principes moraux et sociétaux, équitables, transparents, responsables et respectant la vie privée. Alors, êtes-vous prêts à vous projeter dans la peau des "vilains" pour développer des algorithmes vertueux?
Mes lectures de la semaine 18, du 29 avril au 5 mai 2024:
- Pour vos projets numériques, employez un spécialiste de l'éthique dès le premier jour: https://medium.com/generative-ai/why-every-ai-startup-should-hire-a-head-of-ai-ethics-on-day-1-f01f80bfaba0 (article en anglais)
- Un logiciel open-source, d’origine suisse, pour faire fonctionner de façon autonome un drone de guerre: https://www.rts.ch/info/suisse/2024/article/les-drones-tueurs-fonctionnent-avec-un-logiciel-d-origine-suisse-28482795.html