Comment utiliser l'IA dans le domaine de la justice ?
![Photo portrait d'Ayisha Piotti](/de/news-und-veranstaltungen/eth-news/news/2023/05/blog-wie-ki-in-der-justiz-einsetzen/_jcr_content/par/lead/imageBlog.imageformat.textdouble.1389108272.jpg)
L'intelligence artificielle promet d'aider les juges dans leurs décisions. Mais en réalité, elle rend leurs décisions et leurs t?ches plus complexes, écrit Ayisha Piotti.
- Lire à haute voix
- Nombre de commentaires
L'intelligence artificielle (IA) transforme actuellement notre société. Au-delà des systèmes dont on parle beaucoup comme Chat GPT ou Dall-E, qui peut générer des images, cette technologie a également fait son entrée dans le travail quotidien des avocates et parfois même des juges. Actuellement, de telles applications n'en sont certes qu'à leurs débuts, mais l'IA a le potentiel de transformer notre système judiciaire. Elle promet non seulement des avantages substantiels, mais soulève également de nouvelles questions éthiques et juridiques. Et les r?les et les compétences requises des avocats et des juges vont également changer.
Les cabinets d'avocats et les tribunaux pourront à l'avenir travailler plus efficacement et automatiser les t?ches répétitives. On peut espérer que cela réduira l'accumulation notoire d'affaires dans les tribunaux. Aujourd'hui déjà, des systèmes basés sur l'IA sont utilisés par des juristes, par exemple pour analyser de grandes quantités de données et vérifier des contrats. Et certains tribunaux américains utilisent des systèmes d'IA pour les aider à prendre des décisions sur la détermination de la peine ou pour prédire le risque de récidive des délinquants.
![Image d'ombre de la Justizia, remplie de code binaire](/de/news-und-veranstaltungen/eth-news/news/2023/05/blog-wie-ki-in-der-justiz-einsetzen/_jcr_content/wide_content/image/image.imageformat.1286.1884562975.jpg)
Il existe toutefois des pièges : les algorithmes actuels de l'IA ne sont souvent pas assez transparents pour répondre aux exigences élevées de responsabilité dans le domaine de la justice. Les critiques craignent en outre que les systèmes d'IA ne renforcent les préjugés et la discrimination dans la jurisprudence. En effet, la fiabilité des systèmes d'IA dépend de la qualité des données introduites. Si les systèmes d'aide à l'IA sont entra?nés sur la base de données biaisées, cela peut conduire à des jugements inéquitables.
Pour minimiser de telles conséquences involontaires, il faut impérativement tester rigoureusement les systèmes d'IA avant de les utiliser. En outre, de nouvelles lignes directrices réglementaires sont nécessaires. L'UE considère à juste titre l'utilisation de l'IA dans le domaine de la justice comme une application à haut risque et va la réglementer strictement dans la loi sur l'IA actuellement en discussion en ce qui concerne, entre autres, la transparence, la surveillance et la cybersécurité.
Pour moi, la jurisprudence fait partie des domaines sensibles et critiques de notre vie, dans lesquels les systèmes d'IA ne doivent pas remplacer totalement l'homme. Pour garantir la responsabilité, nous devons intégrer des êtres humains dans le système. Je suis convaincu que l'homme est nécessaire en tant que gardien de l'IA. ? l'avenir, les juges ne devront pas seulement rendre des jugements, mais aussi décider de la manière dont l'IA sera utilisée dans le processus de jugement. Ils doivent conna?tre les avantages et les inconvénients de l'IA, garder à l'esprit les champs de tension qui y sont liés et les équilibrer dans des décisions conscientes.
Une telle tension est par exemple celle entre la rapidité et la minutie. L'IA est sans aucun doute rapide, et certains juristes affirment que la justice différée est une justice refusée. Une décision imparfaite prise aujourd'hui peut donc être meilleure qu'une décision parfaite qui n'est pas prise du tout.
"Nous devons intégrer les humains dans le système".Ayisha Piotti
Un autre champ de tension est celui de l'adéquation et de la sécurité. Aujourd'hui, il n'existe pas encore de normes régissant l'utilisation de l'IA dans la justice ainsi que sa validité et sa fiabilité. Les juges doivent faire appel à leur jugement lorsqu'ils se font assister par l'IA dans leur travail.
Souvent à but commercial
Un troisième dilemme découle du fait qu'aujourd'hui, l'IA est souvent développée en tant que technologie commerciale et non pas en tant que technologie à source ouverte. Je pense que les développeurs ont un intérêt légitime à protéger leurs secrets commerciaux, mais celui-ci se heurte à notre exigence selon laquelle les décisions juridiques doivent être compréhensibles. Si nous voulons mettre à la disposition de la justice des analyses de probabilité d'IA de comparaisons d'ADN et des aides à la décision lors de la fixation de la peine, cela signifie dans de nombreux cas faire des compromis en matière de transparence.
L'IA a le potentiel de rendre la jurisprudence plus efficace, de l'accélérer et d'en améliorer la qualité. Dans les domaines de tension mentionnés, il s'agira toutefois de peser le pour et le contre et de trouver des compromis pragmatiques. En tant que société, nous devons définir ensemble à quoi ils doivent ressembler. Et nous devons préparer toutes les gardiennes et tous les gardiens de l'IA - en premier lieu les juges - à leur nouvelle t?che supplémentaire et leur transmettre les connaissances spécialisées spécifiques à l'IA.