Digi, nano, bio, neuro - ou pourquoi les technologies convergentes devraient nous préoccuper

Nous pouvons bien observer depuis quelques années, avec la digitalisation, quelles sont les conséquences si l'on laisse le changement technologique aux forces du marché sans contr?le.

Fausses informations et manipulation sur le web

En 2015, il y a presque 10 ans, le Manifeste numérique a été publié.¹ L'un d'entre nous, ainsi que huit autres experts européens, avaient alors mis en garde contre le scoring, c'est-à-dire l'évaluation des personnes, et contre le big nudging.²,Une forme subtile de manipulation numérique. Cette dernière repose sur des profils de personnalité établis à l'aide de cookies et d'autres données de surveillance. Peu de temps après, le scandale Cambridge Analytica a montré au monde comment la société d'analyse de données tentait d'influencer le vote lors d'élections démocratiques par le biais d'annonces personnalisées (micro-targeting).

Entre-temps, les démocraties du monde entier sont sous pression. La propagande, les fausses nouvelles et les discours de haine polarisent et sèment le doute, tandis que la vie privée s'étiole. Nous nous trouvons dans une sorte de guerre de l'information pour nos têtes, dans laquelle les entreprises publicitaires, les groupes technologiques, les services secrets et les militaires se disputent l'influence sur notre pensée et notre comportement. Pendant ce temps, l'AI Act de l'Union européenne, qui vient d'être adopté, tente de ma?triser les dangers évoqués précédemment.

Mais les technologies numériques évoluent rapidement et de nouvelles possibilités de manipulation se dessinent déjà. En effet, lorsque les technologies numériques et nanotechnologiques convergent avec les biotechnologies et neurotechnologies modernes, des applications révolutionnaires, à peine imaginables auparavant, deviennent possibles.

Des microrobots pour la médecine de précision

Par exemple dans la médecine personnalisée : la miniaturisation progressive de l'électronique permet de plus en plus d'exploiter les organismes vivants et les êtres humains avec des capteurs et une puissance de calcul en réseau. Le WEF a déjà proclamé l'"Internet des corps" en 2020.^{3, 4}

Les pilules numériques, qui combinent les médicaments traditionnels avec une fonction de surveillance, en sont un exemple. Celles-ci pourraient contr?ler la médication et enregistrer les données physiologiques des patient(e)s (voir ces Article de blog).

Les spécialistes s'attendent à ce que la technologie des capteurs atteigne t?t ou tard l'échelle nanométrique. Des nanoparticules magnétiques ou des composants nanoélectroniques d'un diamètre allant jusqu'à 100 nanomètres permettraient de transporter des substances actives, d'interagir avec des cellules et de collecter de grandes quantités de données sur les fonctions corporelles. On pourrait ainsi détecter les maladies à un stade précoce et les traiter de manière personnalisée, espère-t-on. On parle aussi souvent de médecine de précision (High Precision Medicine).

Des nano-électrodes enregistrent les fonctions cérébrales

Des électrodes miniaturisées capables de mesurer et de manipuler simultanément l'activité de milliers de neurones, ainsi que des outils d'IA toujours plus performants pour l'analyse des signaux cérébraux sont deux approches qui conduisent actuellement à des avancées très discutées dans le domaine de l'interface cerveau-ordinateur. Gr?ce à la nano-neurotechnologie, l'idée est que le smartphone et d'autres applications d'IA pourraient peut-être bient?t être commandés directement par la pensée.

Les grands projets de cartographie du cerveau humain devraient également en profiter.⁵ A l'avenir, le Brain Activity Mapping pourrait en principe lire nos pensées et nos sentiments, mais aussi les influencer de l'extérieur - ce dernier point étant probablement nettement plus efficace que les méthodes de manipulation utilisées jusqu'ici, comme le Big Nudging.

Les électrodes classiques ne sont toutefois pas adaptées à une connexion durable entre les cellules et l'électronique - il faut pour cela des interfaces durables et biocompatibles. Une proposition consiste donc à transmettre des signaux par optogénétique, c'est-à-dire à utiliser des impulsions lumineuses pour commander des gènes dans des cellules spéciales.⁶ Des circuits étonnants pourraient ainsi être mis en ?uvre (voir Actualités ETH "Contr?ler les gènes par la pensée").

Le revers de la médaille de la convergence

Il faut bien l'admettre : Les applications citées peuvent para?tre futuristes. Pour l'instant, il s'agit surtout de visions ou de premiers stades de développement. Mais les recherches se poursuivent à un rythme soutenu dans le monde entier. Les milieux militaires sont également intéressés par l'utilisation de technologies convergentes à leurs fins.^{7, 8}

Le revers de la médaille de la convergence, ce sont des risques considérables, par exemple que des acteurs étatiques ou privés accèdent à des données hautement sensibles et les utilisent de manière abusive pour surveiller et influencer les gens. Plus nos corps sont connectés, plus nous sommes vulnérables à la cybercriminalité et au piratage. En outre, il n'est pas exclu que des applications militaires existent déjà.⁷ Une chose est cependant certaine : bien avant que la médecine de précision et la neurotechnologie ne fonctionnent de manière fiable, ces technologies seront déjà utilisables contre des êtres humains.

Le problème : les cadres réglementaires spécialisés actuels ne suffisent pas à contenir la convergence technologique. Comment pouvons-nous garder le contr?le de notre vie s'il est de plus en plus possible d'influencer nos pensées, nos sentiments et nos décisions par des moyens numériques ?

La convergence nécessite un contr?le convergent

Dans notre récent document, nous concluons que les technologies convergentes nécessitent une réglementation internationale tout aussi convergente. Nous esquissons un nouveau cadre juridique mondial et proposons dix principes de gouvernance pour combler le vide réglementaire qui menace.⁹

Notre cadre souligne la nécessité de mesures de protection pour préserver les fonctions corporelles et mentales de toute intervention non autorisée et pour garantir l'intégrité personnelle et la vie privée, par exemple par le biais de droits neurologiques.

Afin de réduire les risques et de prévenir les abus, les futures réglementations devraient être inclusives, transparentes et dignes de confiance. Le principe de la gouvernance participative, qui implique tous les groupes pertinents et garantit que les préoccupations des minorités concernées sont également prises en compte dans les processus de décision, est central.

Enfin, il faut une véritable autodétermination informationnelle - il faudrait que nous reprenions le contr?le de nos données personnelles. Cela vaut également pour les jumeaux numériques de notre corps et de notre personnalité. Car elles permettent de pirater notre santé et notre pensée - pour le meilleur et pour le pire.¹⁰

Avec notre contribution, nous souhaitons lancer un débat public sur les technologies convergentes. En effet, malgré leur grande pertinence, nous estimons que ce sujet est trop peu abordé. Un discours continu sur les avantages, les risques et les règles judicieuses peut aider à orienter la convergence technologique de manière à ce qu'elle serve les gens et ne leur nuise pas.

Dirk Helbing a rédigé cette contribution en collaboration avecpage externeMarcello Ienca, qui a travaillé à l'ETH Zurich et à l'EPFL et qui est désormais professeur assistant d'éthique de l'IA et des neurosciences à l'Université technique de Munich.