Di quale morale hanno e hanno bisogno le macchine intelligenti?
A volte sono le domande, più che le risposte, a far capire che il mondo sta cambiando. Questo vale, ad esempio, per le domande sulle conseguenze morali di macchine e computer sempre più intelligenti. Un gruppo di studenti dell'ETH ha affrontato questo tema.
Una cosa è chiara: i robot sono macchine, non persone. Sono stati costruiti, tra l'altro, per sollevare l'uomo da lavori puramente meccanici o ripetitivi. La loro intelligenza non è naturale, ma controllata da programmi informatici.
Grazie ai progressi dell'intelligenza artificiale, dell'apprendimento automatico e degli algoritmi di autoapprendimento, le potenziali applicazioni delle macchine si stanno ampliando. I robot intelligenti vengono ora sviluppati nell'industria e nei laboratori di ricerca dell'ETH di Zurigo e utilizzati nei settori dei trasporti, della sanità e della produzione. Inoltre, sono già presenti sul mercato offerte di robot per la sicurezza, l'assistenza e i servizi (vedi "pagina esterna10to10" del 21 marzo 2017). Esistono anche applicazioni meno ovvie dell'intelligenza artificiale, come quelle per la finanza e il commercio, i social network e la pubblicità digitale.
Diversi istituti, laboratori e spin-off dell'ETH di Zurigo sono coinvolti nello sviluppo di robot autonomi e, secondo la NZZ, stanno trasformando Zurigo in una "città di ricerca".pagina esternaCapitale robotico".
Quanto bene prende le decisioni una macchina?
Anche se attualmente le macchine intelligenti non sono in grado di superare gli esseri umani in termini di pensiero e si occupano principalmente di compiti di routine, la loro comparsa solleva comunque degli interrogativi. Se le macchine artificiali "imparano" e "decidono", cosa succede se le loro azioni e decisioni non sono "buone" secondo il giudizio umano? Chi ne è responsabile? Chi è responsabile se causano danni?
Tali questioni morali e legali diventano evidenti nel caso dei veicoli a guida autonoma e dei robot da guerra (cfr. pagina esternaTages-Anzeiger dal 20 marzo 2017). Chi decide se un sistema d'arma intelligente spara o meno? Un sistema d'arma distingue tra una situazione di combattimento e una pausa nel combattimento, tra soldati stranieri e civili? Come fa un'auto a guida autonoma a decidere se un bambino salta improvvisamente sulla strada, ma se sterza mettendo in pericolo un gruppo più ampio di persone? Non esistono ancora armi e auto completamente autonome, ma ci sono altre domande: chi è responsabile degli errori nelle grandi organizzazioni o nelle reti complesse in cui lavorano uomini e macchine?
Sempre un umano, dicono alcuni. Secondo altri, in questi casi è necessario installare uno status giuridico aggiuntivo per le "persone digitali". ? necessario intervenire a livello legislativo o è meglio intervenire a livello di politica fiscale? Ad esempio, tassare il valore aggiunto generato dai robot, soprattutto quando le persone perdono il lavoro a causa loro?
Sono domande che fino a poco tempo fa sembravano appannaggio della fantascienza. Di recente, però, riviste rinomate come "pagina esternaLa natura", "pagina esternaL'economista", "pagina esternaFortuna" o "pagina esternaheise online"Le domande su quanto debbano essere morali le macchine o su quale sia l'etica necessaria per l'intelligenza artificiale sono diventate un argomento di primo piano. Stanno diventando sempre più importanti anche dal punto di vista politico, come le iniziative parlamentari in Svizzera e Germania. pagina esternain Europa spettacolo, durante il quale l'European pagina esternaRisoluzione Il Codice di condotta per la robotica del Politecnico di Zurigo comprende sia gli aspetti legali della robotica sia un codice di condotta etico per gli ingegneri robotici.
La robotica: un tema di etica
L'ETH di Zurigo ha anche dei formati - ad esempio nei suoi programmi di formazione - in cui si riflette sull'attività scientifica: ad esempio il "Iniziativa "Pensiero critico e il "Settimana di Cortona" o il programma di Master "storia e filosofia del sapere". In questo ambiente, studenti e dottorandi dell'ETH provenienti da discipline umanistiche, ingegneria e informatica hanno unito le forze per creare il progetto "pagina esternaRobotica e filosofia". A febbraio hanno organizzato un workshop sulle implicazioni morali delle macchine intelligenti e dei robot. Sono stati invitati esperti di etica dell'intelligenza artificiale, tra cui lo scienziato cognitivo e il ricercatore di scienze umane.pagina esternaConoscenza dei robot"Joanna Bryson, il filosofo della tecnologia Peter Asaro e la storica delle idee dell'ETH Vanessa Rampton. Il gruppo di etica dei robot comprende Lisa Schurrer e Naveen Shamsudhin.
Espandere lo sguardo
Naveen Shamsudhin ha appena completato gli studi di dottorato presso il Multi-Scale Robotics Lab. La sua tesi di dottorato riguarda strumenti controllati da micro-robot che possono essere utilizzati per studiare la meccanica della crescita delle piante. Nel 2009 è stato titolare di una borsa di studio della Confederazione (ESKAS) presso l'ETH di Zurigo e ha conseguito un Master in Micro e Nanosistemi presso il Laboratorio di Controllo Automatico.
Lo sviluppo della tecnologia è una sfida e come sviluppatori ci identifichiamo fortemente con il nostro lavoro", afferma Shamsudhin, "ma a volte, o a mio avviso spesso in modo preoccupante, è facile perdere la prospettiva più ampia e non riflettere abbastanza su ciò per cui la tecnologia viene sviluppata e per chi".La diffusione delle nuove tecnologie nella società può risolvere alcuni problemi, ma può anche causarne di nuovi o portare a nuove disuguaglianze". Il coinvolgimento in progetti transdisciplinari è quindi molto importante per ampliare la prospettiva professionale.
Anche Lisa Schurrer, studentessa del Master in "Storia e filosofia del sapere", apprezza lo scambio con ingegneri e informatici. "Per i filosofi, il dialogo con gli ingegneri è una verifica della realtà su quanto siano realistiche certe ipotesi teoriche e su ciò che può essere effettivamente implementato tecnicamente". Trova importante che la riflessione etica non avvenga solo alla fine di un processo di sviluppo, ma fin dall'inizio, nella fase di progettazione.
Tradurre i principi etici nei linguaggi di programmazione non è un compito facile: dopo tutto, le persone in formazione sono in grado di gestire principalmente situazioni di routine. Tuttavia, il comportamento etico va oltre il semplice rispetto delle regole. Gli esseri umani hanno anche una sorta di senso morale su ciò che dovrebbero o non dovrebbero fare in una determinata situazione, magari non familiare. Se i robot e i computer svilupperanno mai un senso morale e situazionale paragonabile è una questione molto aperta e anche eticamente discutibile, perché anche i robot "compassionevoli" raccoglieranno dati che potrebbero violare la privacy.
![](/bin/ethz/components/previewImage/youtube/jsAN7oUhKe0.jpg)
pagina esternaQui ci sono altri video del workshop sull'etica dei robot.
"La Svizzera diventerà disoccupata?".
I robot prenderanno presto tutti i nostri lavori o lavoreremo in modo più flessibile, più in rete e forse per meno tempo? Se ne parlerà giovedì 30 marzo 2017, alle 19:30, in occasione di una Evento di gruppo della serie "Treffpunkt Science City" nell'Audimax dell'edificio principale dell'ETH:
- Rolf Sonderegger, CEO Kistler Group, leader mondiale nella tecnologia di misura dinamica
- Vania Alleva, presidentessa di Unia, il più grande sindacato della Svizzera
- Detlef Günther, Vicepresidente per la ricerca e le relazioni aziendali dell'ETH
- Georges T. Roos, futurologo e autore di numerosi studi