Des directives éthiques sur l'IA à foison - et maintenant ?
Anna Jobin a examiné, en collaboration avec des chercheurs du Health Ethics and Policy Lab, quelles directives éthiques existent déjà pour l'intelligence artificielle et constate que l'IA éthique est loin de se limiter à une question technique.
L'intelligence artificielle - ou IA - n'est certes pas sur toutes les lèvres depuis longtemps, mais elle est déjà dépassée en tant que mot-clé. Depuis peu, tout tourne autour de "l'IA éthique" - les organisations les plus diverses ont entre-temps publié des lignes directrices et des prises de position en matière d'éthique. Il est devenu difficile de garder une vue d'ensemble de toutes ces publications et la question se pose : que disent ces documents ? Faut-il à chaque fois réinventer la roue ? Quelle conception de l'éthique se cache derrière ces recommandations sur l'IA éthique ? Et qui la définit ? Comme de nouvelles directives apparaissent tous les mois, il me semble indispensable de faire le point.
Pas un seul principe éthique commun
Récemment, les résultats de notre étude approfondie à ce sujet ont été publiés dans la revue spécialisée "Nature Machine Intelligence". Première surprise : dans les 84 documents analysés sur l'IA éthique, on ne trouve pas un seul principe éthique commun. Cinq d'entre eux sont tout de même au moins mentionnés dans plus de la moitié des documents. Il s'agit de : Transparence, Justice & Equité, Prévention des dommages, Responsabilité, ainsi que Protection des données & Vie privée. Nous avons identifié un total de onze principes.
Et la deuxième surprise - ou plut?t la désillusion : la durabilité n'est mentionnée que dans un sixième des directives et recommandations ; la dignité humaine et la solidarité sont encore plus rarement évoquées. Cela est d'autant plus surprenant que deux grands défis autour de l'IA concernent précisément ces principes : La consommation d'énergie et le changement climatique d'une part, et un marché du travail restructuré et des pertes d'emploi redoutées, d'autre part. D'un point de vue éthique, cette marginalisation de la durabilité, de la dignité humaine et de la solidarité est donc très préoccupante. De mon point de vue, les directives éthiques ne doivent pas ignorer les questions urgentes des gens, mais s'y attaquer.
Même terme, interprétation différente
Même à un niveau plus concret, il y a peu d'accord sur ce que signifie "IA éthique" : les principes éthiques mentionnés sont interprétés différemment - parfois même de manière contradictoire - et favorisent d'autres recommandations d'action. Par exemple, certaines directives soulignent que la confiance dans l'IA devrait être encouragée, alors que d'autres mettent au contraire en garde contre le danger de faire trop confiance aux systèmes d'IA.
"L'intelligence artificielle éthique n'est pas seulement une question technique, l'éthique doit également avoir sa place dans la gouvernance de l'IA."Anna Jobin
Le fait que tous les principes ne soient pas interprétés exactement de la même manière n'est pas encore per se problématique : l'IA est un terme générique désignant différentes techniques, et il est immédiatement évident que différentes organisations et secteurs souhaitent mettre l'accent sur d'autres aspects. Mais des prises de position vagues et imprécises sur l'IA éthique me font soup?onner qu'il s'agit plut?t d'une action de relations publiques - mot-clé : "ethics-washing" - que d'une réflexion sérieuse sur les questions éthiques.
De l'or pour le blog du futur
Notre blog est devenu site externeBlog scientifique de l'année 2019 ont été choisis. L'équipe de rédaction remercie toutes les lectrices et tous les soutiens.
Gouvernance inclusive
Depuis peu, la Suisse a désormais elle aussi une initiative qui site externeInitiative numérique suisse (IDS),L'objectif déclaré de l'association est de mettre en ?uvre des normes éthiques dans un monde numérique. Sur la base de notre étude, une question s'impose immédiatement : De quelles normes s'agit-il ? Une première ébauche de document de la SDI cite comme inspiration les principes clés du rapport de l'ONU sur la coopération numérique, les normes "Ethically Aligned Design" (EAD) élaborées en commun, ainsi que les "lois et directives existantes" en général.
Prendre acte de ce qui existe est un bon début. Mais il reste encore beaucoup à faire. Ainsi, le site externeDocument du SEAE à plusieurs reprises l'importance d'impliquer tous les groupes d'intérêt. Il ne s'agit bien s?r pas d'une problématique technique, mais de structures et de processus sociaux et politiques. Et c'est à cela que cela se résume à mon avis : l'intelligence artificielle éthique n'est absolument pas une simple question technique, mais l'éthique doit également avoir sa place dans la gouvernance de l'IA. Cela implique une site externeapproche participative, qui associe les parties prenantes et la société civile. En effet, l'IA concerne désormais de nombreux domaines de notre société - c'est pourquoi la société devrait également avoir son mot à dire lorsqu'il s'agit de déterminer les valeurs qui doivent s'appliquer à l'IA et la manière dont elles doivent être mises en ?uvre.
Ce texte est également publié comme article d'opinion dans la site externeNeue Zürcher Zeitung.
Références
Jobin A, Ienca M, Vayena E : The global landscape of AI ethics guidelines. site externeNature Machine Intelligence d'une part, vol. 1, pages 389-399 (2019).