Linee guida etiche per l'IA a bizzeffe - e ora?
Insieme ai ricercatori dell'Health Ethics and Policy Lab, Anna Jobin ha analizzato le linee guida etiche già esistenti per l'intelligenza artificiale e ha scoperto che l'IA etica non è affatto solo una questione tecnica.
L'intelligenza artificiale (AI) non è sulla bocca di tutti da molto tempo, ma come singola parola d'ordine è già superata. Negli ultimi tempi tutto ruota intorno all'"IA etica": un'ampia gamma di organizzazioni ha pubblicato linee guida e dichiarazioni etiche. ? diventato difficile tenere traccia di tutte queste pubblicazioni e sorge spontanea la domanda: cosa dicono effettivamente questi documenti? La ruota viene reinventata ogni volta? Qual è la concezione dell'etica che sta alla base di queste raccomandazioni sull'IA etica? E chi le definisce? Dato che ogni mese vengono pubblicate nuove linee guida, credo sia essenziale fare il punto della situazione.
Nessun principio etico comune
I risultati del nostro studio completo sono stati recentemente pubblicati sulla rivista scientifica "Nature Machine Intelligence". La prima sorpresa: negli 84 documenti analizzati sull'IA etica non c'è un solo principio etico comune. Tuttavia, cinque di essi sono almeno menzionati in più della metà dei documenti. Questi sono: Trasparenza, Giustizia ed Equità, Prevenzione del danno, Responsabilità, Protezione dei dati e Privacy. Abbiamo identificato un totale di undici principi.
La seconda sorpresa - o piuttosto disillusione - è che la sostenibilità è menzionata solo in un sesto delle linee guida e delle raccomandazioni; la dignità umana e la solidarietà sono menzionate ancora meno frequentemente. Ciò è particolarmente sorprendente perché due grandi sfide legate all'IA riguardano proprio questi principi: il consumo di energia e il cambiamento climatico da un lato e, dall'altro, la dignità umana e la solidarietà dall'altro. Un mercato del lavoro ristrutturato e la temuta perdita di posti di lavoro dall'altro. Da un punto di vista etico, questa marginalizzazione della sostenibilità, della dignità umana e della solidarietà è quindi molto discutibile. A mio avviso, le linee guida etiche non devono ignorare le domande pressanti delle persone, ma devono affrontarle.
Stesso termine, diverse interpretazioni
Anche a livello più concreto, c'è poco accordo su cosa significhi effettivamente "IA etica": i principi etici citati sono interpretati in modo diverso - a volte persino contraddittorio - e portano alla luce raccomandazioni d'azione diverse. Ad esempio, alcune linee guida sottolineano che la fiducia nell'intelligenza artificiale dovrebbe essere incoraggiata, mentre altre, al contrario, mettono in guardia dal pericolo di riporre troppa fiducia nei sistemi di IA.
"L'intelligenza artificiale etica non è solo una questione tecnica; anche l'etica deve avere un posto nella governance dell'IA".Anna Jobin
Il fatto che non tutti i principi vengano interpretati esattamente allo stesso modo non è ancora per se problematico: AI è un termine collettivo per varie tecnologie, ed è subito evidente che organizzazioni e settori diversi vogliono stabilire priorità diverse. Tuttavia, le dichiarazioni vaghe e imprecise sull'IA etica mi fanno sorgere il sospetto che si tratti più di una campagna di PR - parola chiave: "ethics-washing" - che di un serio esame delle questioni etiche.
Blog "Oro per il futuro
Il nostro blog è diventato il pagina esternaBlog scientifico dell'anno 2019 eletto. La redazione ringrazia tutti i lettori e i sostenitori.
Governance inclusiva
Anche la Svizzera ha recentemente lanciato un'iniziativa che pagina esternaIniziativa Digitale Svizzera (ISD),il cui obiettivo dichiarato è l'implementazione di standard etici in un mondo digitale. Sulla base del nostro studio, sorge immediatamente la domanda: Quali standard si intendono? Una prima bozza di documento della SDI cita come ispirazione i principi chiave del Rapporto delle Nazioni Unite sulla cooperazione digitale, gli standard "Ethically Aligned Design" (EAD) sviluppati congiuntamente e "le leggi e le direttive esistenti" in generale.
Prendere atto di ciò che già esiste è un buon inizio. Tuttavia, c'è ancora molto lavoro da fare. Il pagina esternaDocumento EAD ha sottolineato più volte l'importanza di coinvolgere tutti i gruppi di interesse. Naturalmente non si tratta di una questione tecnica, ma di strutture e processi sociali e politici. A mio avviso, il punto è proprio questo: l'intelligenza artificiale etica non è solo una questione tecnica, ma anche l'etica deve avere un posto nella governance dell'IA. Questo include un pagina esternaApproccio partecipativo,che comprende i gruppi di interesse e la società civile. Dopotutto, l'IA interessa ormai molti settori della nostra società, ed è per questo che anche la società dovrebbe avere voce in capitolo quando si tratta di stabilire quali valori debbano essere applicati all'IA e come questi debbano essere implementati.
Questo testo appare anche come articolo di opinione nella rivista pagina esternaNeue Zürcher Zeitung.
Riferimento
Jobin A, Ienca M, Vayena E: Il panorama globale delle linee guida sull'etica dell'IA. pagina esternaNatura Intelligenza Artificiale, vol. 1, pagine 389-399 (2019).