Come utilizzare l'IA nel sistema giudiziario?
L'intelligenza artificiale promette di aiutare i giudici nelle loro decisioni. Ma in realtà rende le loro decisioni e i loro compiti più complessi, scrive Ayisha Piotti.
L'intelligenza artificiale (AI) sta attualmente trasformando la nostra società. Al di là dei tanto discussi sistemi come Chat GPT o Dall-E, in grado di generare immagini, la tecnologia ha trovato spazio anche nel lavoro quotidiano di avvocati e talvolta persino di giudici. Sebbene tali applicazioni siano ancora in fase iniziale, l'IA ha il potenziale per cambiare il nostro sistema giudiziario. Non solo promette vantaggi significativi, ma solleva anche nuove questioni etiche e legali. E cambieranno anche i ruoli e i requisiti di competenza di avvocati e giudici.
In futuro, gli studi legali e i tribunali potranno lavorare in modo più efficiente e automatizzare le attività ripetitive. In questo modo si spera di ridurre l'attuale e noto arretrato di cause nei tribunali. I sistemi supportati dall'intelligenza artificiale sono già utilizzati oggi dagli avvocati, ad esempio per analizzare grandi quantità di dati e rivedere i contratti. Negli Stati Uniti alcuni tribunali utilizzano sistemi di IA per supportare le decisioni di condanna o per prevedere il rischio di recidiva per i trasgressori.
Tuttavia, non mancano le insidie: gli attuali algoritmi di IA spesso non sono abbastanza trasparenti per soddisfare le elevate esigenze di responsabilità del sistema giudiziario. I critici temono anche che i sistemi di IA possano aumentare i pregiudizi e le discriminazioni nell'amministrazione della giustizia. Questo perché l'affidabilità dei sistemi di IA dipende dalla qualità dei dati inseriti. Se i sistemi di supporto all'IA vengono addestrati sulla base di dati distorti, ciò può portare a sentenze ingiuste.
Per ridurre al minimo queste conseguenze indesiderate, è indispensabile che i sistemi di IA siano rigorosamente testati prima di essere utilizzati. Sono inoltre necessarie nuove linee guida normative. L'UE ha giustamente classificato l'uso dell'IA nel sistema giudiziario come un'applicazione ad alto rischio e lo regolamenterà rigorosamente nella legge sull'IA attualmente in discussione per quanto riguarda, tra l'altro, la trasparenza, la supervisione e la sicurezza informatica.
Per me l'amministrazione della giustizia è una delle aree sensibili e critiche della nostra vita in cui i sistemi di intelligenza artificiale non devono sostituire completamente gli esseri umani. Per garantire la responsabilità, dobbiamo integrare gli esseri umani nel sistema. Sono convinto che gli esseri umani siano necessari come guardiani dell'IA. In futuro, i giudici non dovranno solo emettere sentenze, ma anche decidere come l'IA viene utilizzata per raggiungere un verdetto. Devono essere consapevoli dei vantaggi e degli svantaggi dell'IA e tenere d'occhio le aree di tensione ad essa associate, bilanciandole in decisioni consapevoli.
Una di queste aree di tensione è quella tra velocità e accuratezza. L'intelligenza artificiale è indubbiamente veloce e alcuni avvocati sostengono che la giustizia ritardata è giustizia negata. Una decisione imperfetta presa oggi può quindi essere migliore di una decisione perfetta che non viene presa affatto.
"Dobbiamo integrare le persone nel sistema".Ayisha Piotti
Un'altra area di tensione è quella tra convenienza e sicurezza. Ad oggi, non esistono standard che regolino l'uso dell'IA in ambito giudiziario o la sua validità e affidabilità. I giudici devono usare il loro giudizio quando permettono all'IA di supportarli nel loro lavoro.
Spesso commerciale
Un terzo dilemma deriva dal fatto che oggi l'IA è spesso sviluppata come tecnologia commerciale e non open source. Ritengo che gli sviluppatori abbiano un interesse legittimo a proteggere i loro segreti commerciali, ma questo si scontra con la nostra pretesa che le decisioni legali siano comprensibili. Se vogliamo decidere di fornire alla magistratura analisi di probabilità dell'IA sulle corrispondenze del DNA e aiuti decisionali per le sentenze, in molti casi ciò significa compromettere la trasparenza.
L'IA ha il potenziale per rendere l'amministrazione della giustizia più efficiente, accelerarla e migliorarne la qualità. Nelle aree di tensione sopra menzionate, tuttavia, si tratterà di soppesare le opzioni e di scendere a compromessi pragmatici. Come società, dobbiamo lavorare insieme per definire le caratteristiche di questi compromessi. E dobbiamo preparare tutti i tutori dell'IA - soprattutto i giudici - ai loro nuovi e ulteriori compiti e dotarli di competenze specifiche sull'IA.