In questa quarta puntata della riflessione sull’intelligenza artificiale, dopo l’inquadramento della problematica, il cenno ai rischi di deformazione della funzione del giudice, e il riferimento all’esperienza avviata in un distretto giudiziario (quello di Brescia), si affronta il tema dei principi che devono accompagnare questi nuovi strumenti tecnologici. Essi, elaborati dalla Commissione europea sull’efficacia della giustizia (Cepej), hanno trovato sede nella “Carta etica europea sull’uso dell’intelligenza artificiale nei sistemi giudiziari”, adottata alla sessione plenaria della Cepej del 3-4 dicembre 2018.
La trasformazione digitale che sta investendo i sistemi giudiziari di molti Paesi europei, ha conseguenze differenti a seconda del modus operandi di ogni specifico ordinamento rispetto ad un altro. Molti Stati dell’Ue hanno destinato risorse per incrementare massicciamente l’utilizzo di sistemi di intelligenza artificiale allo scopo di realizzare un upgrade tecnologico delle strutture e degli strumenti di supporto e di affiancamento agli organi giudiziari; altri Stati sono invece più indietro. In previsione della ulteriore diffusione dell’Ia e dei benefici che porterà all’efficienza e alla qualità della giustizia, il 4 dicembre 2018 la Commissione europea per l’efficacia della giustizia (Cepej) del Consiglio d’Europa ha emanato la Carta etica europea sull’utilizzo di essa nei sistemi giudiziari e negli ambiti connessi.
Allo stato attuale non risulta ancora che i giudici degli Stati membri del Consiglio d’Europa adoperino in maniera significativa e continuativa queste tipologie di software; sono state effettuate sperimentazioni a livello locale, e la materia è oggetto di studio per comprenderne fino in fondo le potenzialità, ma l’utilizzo non è stato ancora esteso su vasta scala, pur aumentando l’opinione che si tratta di una grande opportunità. La Carta propone di sponsorizzare un approccio prudente e propositivo all’integrazione degli strumenti informatici nelle politiche pubbliche nei vari Paesi Ue. La Commissione europea ha indicato come destinatari del documento gli attori che, nell’ambito pubblico e privato, siano incaricati di creare e implementare gli strumenti e i servizi di intelligenza artificiale che trattano decisioni e dati giudiziari. La Cepej non solo esorta l’utilizzo di tali strumenti nei sistemi giudiziari nazionali e sovra-nazionali, così da migliorare l’efficienza e la qualità della giustizia, ma cerca anche di individuare delle modalità generali per attuare questo processo innovativo in modo responsabile, nel rispetto dei diritti fondamentali della persona.
La Carta espone cinque principi indispensabili per consentire l’applicazione di tali tecnologie nei sistemi giudiziari:
Principio del rispetto dei diritti fondamentali: il trattamento delle decisioni e dei dati giudiziari debba avere finalità chiare, che rispettino i diritti fondamentali garantiti dalla Cedu e dalla Convenzione sulla protezione delle persone rispetto al trattamento automatizzato di dati di carattere personale. L’utilizzo di strumenti di Ia per risolvere una controversia o come supporto nel processo giudiziario non deve, in alcun modo, inficiare le garanzie di accesso al giudice e il diritto a un equo processo. Nell’ordinamento italiano tale diritto è fissato all’articolo 111 della Costituzione e si esplica in questo caso come rispetto del contraddittorio attraverso la parità delle parti intesa come “partecipazione dell’accusa e della difesa su basi di parità in ogni stato e grado del procedimento”.
Principio di non-discriminazione: esso punta a prevenire qualsiasi intensificazione o sviluppo di forme di discriminazione tra persone o gruppi di persone. Una sua particolare declinazione si fa per la fase dell’elaborazione dei dati che si basa su di un trattamento di “personal data”. Questi dati possono riguardare l’origine etnica, l’orientamento sessuale, la fede religiosa o filosofica, le condizioni socio-economiche, l’appartenenza a un sindacato, le opinioni politiche, le condizioni sanitarie. I sistemi informatici non sono sempre in grado di rivelare possibili discriminazioni esistenti attraverso la classificazione o il raggruppamento dei dati inseriti, pertanto si potrebbe correre il rischio di riprodurre tali disuguaglianze o addirittura di amplificarle. Individuare possibili discriminazioni a volte non è un lavoro semplice, per questo possono essere elaborati appositi programmi che svolgano tale funzione.
Principio di qualità e sicurezza: riguarda l’utilizzo di tecnologie che processano decisioni e dati giudiziari, e sottolinea la necessità che le fonti siano certificate, e che sia possibile operare in un ambiente tecnologico protetto. I dati che vengono inseriti in un software che si basa su un sistema di machine learning dovrebbero provenire da fonti registrate, e rimanere invariati fino al momento in cui verranno elaborate dal calcolatore. Deve inoltre essere possibile tracciare l’intero processo di elaborazione di questi dati per garantire che il significato della decisione trattata non sia stato modificato, né che sia possibile alterarne il contenuto.
Principio di trasparenza, imparzialità ed equità: sancisce che affinché le modalità di trattamento dei dati utilizzati siano sicure è necessario che siano verificabili. I software utilizzati in ambito giuridico, o che comunque incidano in maniera significativa sulla vita delle persone, necessitano di una verifica di equità. Per questo è necessario trovare un equilibrio tra la proprietà intellettuale di questi software, che permetta di mantenere segreta la loro configurazione, e l’esigenza di trasparenza, imparzialità ed integrità intellettuale. Possibili soluzioni a queste problematiche potrebbero essere l’utilizzazione e l’incentivazione alla produzione di codici open source, che solitamente questa viene limitata per via della protezione di segreti industriali; in alternativa, rispettando il segreto industriale, sarà necessario testare il software e conoscerne le principali linee di sviluppo degli algoritmi utilizzati. Principio del “controllo da parte dell’utilizzatore”: fare in modo che gli utilizzatori di questi strumenti informatici siano formati a un livello tale da effettuare le loro scelte in maniera consapevole e autonoma.
Gli strumenti di intelligenza artificiale devono utilizzare un linguaggio chiaro e comprensibile, per permettere agli utilizzatori di comprendere le vari possibilità di azione. È quindi importante sponsorizzare programmi di alfabetizzazione informatica destinati a specializzare gli utilizzatori finali. La Cepej ha posto questi principi come punto di riferimento per le istituzioni e i professionisti del diritto che intendono integrare le nuove tecnologie nei loro ordinamenti, in modo da costituire un’uniforme base di confronto per sfruttare al meglio le potenzialità tecnologiche, bilanciandole con la tutela dei diritti e della libertà di scelta dell’utente. Viene comunque in termini generali raccomandato un approccio graduale nel processo di integrazione dell’intelligenza artificiale nei sistemi giudiziari. L’auspicio della Cepej è che i principi prima enunciati diventino l’asse portante di una “cybergiustizia” europea e un riferimento concreto per i magistrati e il mondo del diritto.
(*) Tratto dal Centro studi Rosario Livatino
Aggiornato il 30 marzo 2022 alle ore 12:32
