L'alba di un'intelligenza artificiale affidabile e cooperativa
Stiamo assistendo all'ascesa di un'intelligenza artificiale (IA) diversa e adattabile che collabora con gli esseri umani e li supporta con decisioni intelligenti? L'informatico Niao He indaga su come una tale IA possa essere teoricamente salvaguardata in modo da apportare realmente dei benefici.
Come ricercatrice, Niao He si concentra sulle persone e sulla tecnologia. Caratteristica di questo è stata la sua lezione inaugurale,quando ha delineato in poche parole come il software adattivo per computer influisce sulla nostra vita quotidiana: "Siamo sulla cuspide di una nuova era dell'intelligenza artificiale e siamo tutti stupiti di ciò che l'IA sta già realizzando oggi e di come stia già cambiando la nostra vita di tutti i giorni": nella conferenza, la professoressa di informatica del Istituto per l'apprendimento automatico Lo stato attuale dello sviluppo dell'intelligenza artificiale con l'alba, quando il giorno che sorge promette grandi cose e noi percepiamo che ci aspetta ancora molto lavoro.
L'immagine dell'alba riflette da sola la sorprendente ascesa che la ricerca e lo sviluppo nel campo dell'apprendimento automatico e dell'intelligenza artificiale hanno conosciuto negli ultimi anni. Le nuove scoperte matematiche e algoritmiche, gli enormi aumenti delle prestazioni dell'hardware, i moduli software di IA disponibili gratuitamente e le enormi quantità di dati che possono essere utilizzate per addestrare l'intelligenza artificiale hanno ampliato a dismisura le potenziali applicazioni dell'IA.
Oggi i computer sono in grado di apprendere in modo automatico utilizzando metodi statistici e basati sui dati. Integrano la conoscenza umana estraendo automaticamente modelli e regolarità da enormi insiemi di dati troppo complessi ed estesi per l'uomo. In questo modo, ad esempio, l'intelligenza artificiale può scoprire nuove strutture proteiche e contribuire così allo sviluppo di nuovi farmaci. Niao He vuole fare un ulteriore passo avanti e sviluppare un'IA in grado di fare qualcosa di più del semplice riconoscimento di modelli. In linea con i valori del ETH AI Center,a chi Team principale immagina un'intelligenza artificiale affidabile e cooperativa che non lavora in competizione con gli esseri umani, ma piuttosto insieme a loro e li supporta con decisioni intelligenti e comprensibili.
L'IA come compagno e consulente
L'obiettivo a lungo termine della sua ricerca è un'IA adattabile che - come gli esseri umani stessi - si adatti rapidamente e in modo flessibile alle mutevoli condizioni ambientali e aiuti le persone a prendere decisioni insolitamente difficili, come un consulente. Niao He è anche stimolata dalla sua esperienza di vita: Dopo aver conseguito la laurea in Cina, ha studiato e fatto ricerca in Georgia e Illinois (USA) per ben dieci anni prima di arrivare in Svizzera nel 2020. Ogni volta che si è trasferita, si è adattata a una cultura diversa e ha acquisito nuove competenze: in Illinois, ad esempio, ha imparato a guidare, mentre a Zurigo ha imparato il tedesco. "Quando ho incontrato un ambiente completamente nuovo, ho spesso desiderato che un'intelligenza artificiale mi aiutasse a prendere le migliori decisioni possibili".
La ricerca di Niao He si concentra sull'ottimizzazione, l'automazione e il processo decisionale intelligente nelle organizzazioni: il suo gruppo sta studiando i principi in base ai quali gli algoritmi - cioè le regole di calcolo sulla base delle quali viene programmato un software intelligente - possono essere progettati in modo matematico, in modo che l'IA funzioni sempre in modo affidabile e consenta di risolvere problemi basati sui dati e prendere decisioni intelligenti. Per garantire che l'IA integri effettivamente il lavoro degli esseri umani, il team di He sta cercando nuovi approcci all'IA e metodi alternativi di apprendimento automatico. "Oggi sviluppiamo quasi abitualmente programmi intelligenti per risolvere problemi del mondo reale di complessità estremamente elevata con enormi quantità di dati", spiega He.
Imparare a gestire l'incertezza e l'ignoto
In effetti, la maggior parte dei processi di IA oggi migliora la qualità dei propri risultati imparando ciò che funziona da grandi serie di dati di addestramento, aumentando così la propria affidabilità. "Nelle operazioni quotidiane, tuttavia, i problemi che l'IA dovrebbe risolvere sono soggetti a molte incertezze", sottolinea Niao He. Queste incertezze possono essere di natura tecnica o umana. Possono riguardare la sicurezza dei dati e dei dati, l'uso di piattaforme condivise o errori umani sistematici ("human bias").
"Affinché l'intelligenza artificiale funzioni in modo affidabile anche in condizioni di incertezza e cambiamento, è importante formulare le incertezze in modo matematico e integrarle nei nostri algoritmi di apprendimento. Ci stiamo lavorando", dice Niao He, "abbiamo bisogno di sistemi di intelligenza artificiale che possano prendere decisioni coerenti nel tempo, che imparino a gestire le incertezze o gli ambienti sconosciuti e che si adattino a nuovi compiti"."Un approccio promettente che potrebbe portare a un'IA adattabile è l'apprendimento per rinforzo. In questo caso, un processo di apprendimento intelligente aumenta l'affidabilità dei suoi risultati attraverso l'interazione ripetuta con l'ambiente. Il team di Niao He sta estendendo questo approccio anche ai casi in cui i dati sono scarsi o manca completamente l'esperienza umana.
L'affidabilità nel tempo crea fiducia
Per Niao He, una cosa è chiara: "L'IA deve essere "centrata sull'uomo", cioè concentrarsi sulle persone, esprimere i nostri valori e lavorare in modo affidabile", condividendo l'idea che valori come l'affidabilità, la trasparenza, la protezione dei dati, l'equità, l'etica, la responsabilità e il senso di responsabilità debbano servire da principi guida per l'uso dell'IA nella pratica. "Un'IA affidabile funziona in modo affidabile per un lungo periodo di tempo. L'affidabilità nel tempo crea fiducia", spiega l'autrice.
"Purtroppo, l'immagine di un'IA affidabile troppo spesso manca degli aspetti teorici dell'IA".Niao He
La teoria le sta a cuore. ? consapevole del fatto che parlare di affidabilità è ambiguo: "IA affidabile è una parola molto magica per me, perché è stata sovraccaricata di molti significati. Per me l'affidabilità è una questione di metodologia" e aggiunge con fermezza: "Dovremmo sviluppare l'IA dalle fondamenta in modo che sia matematicamente solida e convalidata teoricamente prima di essere utilizzata nella pratica". Purtroppo, gli aspetti teorici dell'IA sono troppo spesso assenti dal quadro dell'IA affidabile".
Conoscere i confini, aumentare la diversità
Poiché oggi è relativamente facile per i progettisti e i programmatori di computer provare le cose sulle piattaforme di IA, a volte ci sono algoritmi nella pratica che forniscono risultati molto plausibili, ma in cui non è chiaro perché si sia verificato un errore. Per Niao He, "teoria" significa che le basi matematiche e algoritmiche dell'IA sono comprese a tal punto che è sempre possibile spiegare come funziona realmente un algoritmo e come si ottengono i suoi risultati. "La comprensione teorica riguarda anche, in primo luogo, la comprensione dei limiti fondamentali di questi problemi e dei limiti di principio degli algoritmi".
Lo sviluppo di un'intelligenza artificiale incentrata sull'uomo richiede un pensiero controfattuale, afferma Niao He. Cosa sarebbe successo se avessi preso una decisione diversa o se qualcuno di sesso diverso o di un gruppo etnico diverso avesse deciso di prendere il mio posto? La diversità è importante per la ricerca sull'IA: "Soprattutto quando si parla di equità, fiducia e collaborazione con l'IA, è molto importante che persone diverse contribuiscano con le loro prospettive allo sviluppo dell'IA. Vorrei quindi incoraggiare tutte le studentesse a partecipare alla ricerca sull'IA, in modo che in futuro l'IA possa funzionare in modo cooperativo, etico, equo e affidabile".
