Digi, nano, bio, neuro - o perché dovremmo preoccuparci delle tecnologie convergenti

Le conseguenze del lasciare il cambiamento tecnologico incontrollato alle forze di mercato si possono vedere chiaramente nel processo di digitalizzazione degli ultimi anni.

Disinformazione e manipolazione sul web

Nel 2015, quasi 10 anni fa, è stato pubblicato il Digital Manifesto.¹ All'epoca, uno di noi e altri otto esperti europei avevano messo in guardia contro l'attribuzione di punteggi, cioè la valutazione delle persone, e contro le grandi manovre.²,Si tratta di una forma sottile di manipolazione digitale. Quest'ultima si basa su profili di personalità creati utilizzando cookie e altri dati di sorveglianza. Poco tempo dopo, lo scandalo di Cambridge Analytica ha mostrato al mondo come la società di analisi dei dati abbia cercato di influenzare il comportamento di voto nelle elezioni democratiche utilizzando annunci personalizzati (microtargeting).

Le democrazie di tutto il mondo sono oggi sotto pressione. Propaganda, fake news e discorsi d'odio polarizzano e seminano dubbi, mentre la privacy si sta riducendo. Siamo in una sorta di guerra dell'informazione per le nostre menti, in cui le aziende pubblicitarie, le società tecnologiche, le agenzie di intelligence e i militari si contendono l'influenza sui nostri pensieri e comportamenti. Nel frattempo, la legge sull'intelligenza artificiale recentemente adottata dall'Unione Europea tenta di arginare i pericoli sopra citati.

Ma le tecnologie digitali si stanno sviluppando rapidamente e stanno già emergendo nuove possibilità di manipolazione. Quando le tecnologie digitali e le nanotecnologie convergeranno con le moderne biotecnologie e neurotecnologie, diventeranno possibili applicazioni rivoluzionarie che prima erano quasi inimmaginabili.

Microrobot per la medicina di precisione

Nella medicina personalizzata, ad esempio, la crescente miniaturizzazione dell'elettronica rende sempre più possibile l'accesso agli organismi viventi e agli esseri umani con sensori e potenza di calcolo in rete. Il WEF ha proclamato l'"Internet dei corpi" già nel 2020.^{3, 4}

Un esempio sono le pillole digitali che combinano i farmaci tradizionali con una funzione di monitoraggio. Queste potrebbero controllare le medicine e registrare i dati fisiologici dei pazienti (vedi questo Post sul blog).

Gli esperti prevedono che la tecnologia dei sensori raggiungerà prima o poi la scala nanometrica. Nanoparticelle magnetiche o componenti nanoelettronici con un diametro fino a 100 nanometri permetterebbero di trasportare sostanze attive, interagire con le cellule e registrare grandi quantità di dati sulle funzioni corporee. Si spera che ciò consenta di individuare precocemente le malattie e di curarle in modo personalizzato. Si parla spesso di medicina di precisione.

I nanoelettrodi registrano le funzioni cerebrali

Elettrodi miniaturizzati in grado di misurare e manipolare simultaneamente l'attività di migliaia di neuroni e strumenti di intelligenza artificiale in continuo miglioramento per l'analisi dei segnali cerebrali sono due approcci che stanno attualmente portando a progressi molto discussi nell'interfaccia cervello-computer. Grazie alle nano-neurotecnologie, l'idea è che presto sarà possibile controllare smartphone e altre applicazioni di intelligenza artificiale direttamente con il pensiero.

Anche i progetti su larga scala per la mappatura del cervello umano dovrebbero trarne vantaggio.⁵ In futuro, la mappatura dell'attività cerebrale potrebbe in linea di principio leggere i nostri pensieri e sentimenti, ma anche influenzarli esternamente - quest'ultimo probabilmente in modo molto più efficace rispetto ai precedenti metodi di manipolazione come il big nudging.

Tuttavia, gli elettrodi convenzionali non sono adatti per una connessione permanente tra cellule ed elettronica: ciò richiede interfacce durevoli e biocompatibili. Una proposta è quindi quella di trasmettere segnali in modo optogenetico, cioè di controllare i geni in cellule speciali utilizzando impulsi di luce.⁶ Ecco come potrebbero essere implementati circuiti sorprendenti (cfr. l'ETH News). "Controllare i geni con il pensiero").

Il lato negativo della convergenza

Certo, le applicazioni citate possono sembrare futuristiche: Le applicazioni citate possono sembrare futuristiche. Sono ancora per lo più visioni o nelle prime fasi di sviluppo. Tuttavia, la ricerca viene condotta a pieno ritmo in tutto il mondo. Anche gli ambienti militari sono interessati a utilizzare le tecnologie convergenti per i loro scopi.^{7, 8}

L'aspetto negativo della convergenza è l'esistenza di rischi considerevoli, come l'accesso di attori statali o privati a dati altamente sensibili e il loro abuso per monitorare e influenzare le persone. Più i nostri corpi diventano connessi, più siamo vulnerabili alla criminalità informatica e all'hacking. Inoltre, non si può escludere che esistano già applicazioni militari.⁷ Una cosa è comunque certa: molto prima che la medicina di precisione e le neurotecnologie funzionino in modo affidabile, queste tecnologie potranno già essere utilizzate contro gli esseri umani.

Il problema: le normative specialistiche esistenti non sono sufficienti a tenere sotto controllo la convergenza tecnologica. Come possiamo mantenere il controllo sulle nostre vite se diventa sempre più possibile influenzare i nostri pensieri, sentimenti e decisioni con mezzi digitali?

La convergenza richiede un controllo convergente

Nel nostro recente documento, concludiamo che le tecnologie convergenti richiedono una regolamentazione internazionale altrettanto convergente. Delineiamo un nuovo quadro giuridico globale e proponiamo dieci principi di governance per colmare l'incombente vuoto normativo.⁹

Il nostro quadro sottolinea la necessità di misure di protezione per tutelare le funzioni fisiche e mentali da interferenze non autorizzate e per garantire l'integrità personale e la privacy, ad esempio attraverso i diritti neurali.

Per ridurre al minimo i rischi e prevenire gli abusi, le future normative dovranno essere inclusive, trasparenti e affidabili. Al centro di tutto questo c'è il principio della governance partecipativa, che coinvolge tutti i gruppi interessati e garantisce che nei processi decisionali si tenga conto anche delle preoccupazioni delle minoranze interessate.

In definitiva, abbiamo bisogno di una vera e propria autodeterminazione informativa: dobbiamo riprendere il controllo sui nostri dati personali. Questo vale anche per i gemelli digitali del nostro corpo e della nostra personalità. Perché possono essere usati per hackerare la nostra salute e il nostro pensiero, nel bene e nel male.¹⁰

Con il nostro articolo, vorremmo avviare una discussione pubblica sulle tecnologie convergenti. Nonostante la sua grande rilevanza, riteniamo che sia stata prestata troppa poca attenzione all'argomento. Un discorso continuo su benefici, rischi e regole ragionevoli può aiutare a guidare la convergenza tecnologica in modo che serva alle persone e non le danneggi.

Dirk Helbing ha scritto questo articolo insieme apagina esternaMarcello Ienca, che ha lavorato all'ETH di Zurigo e all'EPFL e ora è professore assistente di Etica nell'IA e nelle neuroscienze presso l'Università Tecnica di Monaco.