Il Consiglio d’Europa ha sancito il primo accordo internazionale giuridicamente vincolante riguardante l’intelligenza artificiale. Il trattato, che è aperto anche ai paesi non europei, mira a garantire la conformità alle leggi sui diritti umani, la democrazia e lo Stato di diritto nell’ambito dell’impiego dei sistemi di AI. Il documento stabilisce un quadro legale che comprende l’intero ciclo di vita dei sistemi, affrontando i potenziali rischi e promuovendo un’innovazione responsabile.
L’accordo adotta un approccio basato sui rischi per la progettazione, lo sviluppo, l’utilizzo e la disattivazione dei sistemi di AI, richiedendo una valutazione attenta delle possibili conseguenze negative. La convenzione quadro sarà aperta alla firma a Vilnius (Lituania) il 5 settembre, in occasione di una conferenza dei ministri della Giustizia.
“Assicurare un utilizzo responsabile dell’AI che rispetti i diritti umani, la democrazia e lo Stato di diritto”
La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto è stata ratificata a Strasburgo il 17 maggio durante l’incontro ministeriale annuale del Comitato dei Ministri del Consiglio d’Europa, che vede riuniti i ministri degli Affari esteri dei 46 Stati membri dell’Organizzazione. Marija Pejčinović, Segretaria generale del Consiglio d’Europa, ha dichiarato: “La Convenzione quadro sull’intelligenza artificiale è un trattato globale unico nel suo genere, che assicurerà che l’intelligenza artificiale rispetti i diritti delle persone. È una risposta alla necessità di disporre di una norma di diritto internazionale sostenuta da Stati di diversi continenti uniti da valori comuni, che consenta di trarre vantaggio dall’intelligenza artificiale, riducendo al contempo i rischi che questa presenta. Con questo nuovo trattato, intendiamo assicurare un utilizzo responsabile dell’AI che rispetti i diritti umani, la democrazia e lo Stato di diritto”.
Due anni di lavoro del Comitato sull’intelligenza artificiale (CAI)
Il risultato è frutto di due anni di lavoro del Comitato sull’intelligenza artificiale (CAI), un organismo intergovernativo che ha riunito i 46 Stati membri del Consiglio d’Europa, l’Unione europea e 11 Stati non membri (Argentina, Australia, Canada, Costa Rica, Giappone, Israele, Messico, Perù, Santa Sede, Stati Uniti d’America e Uruguay), oltre a rappresentanti del settore privato, della società civile e del mondo accademico in qualità di osservatori. Il trattato riguarda l’impiego dei sistemi AI sia nel settore pubblico sia in quello privato.
La convenzione offre due modalità per conformarsi ai suoi principi e obblighi nel quadro della regolamentazione del settore privato: le parti possono scegliere di essere direttamente soggette alle disposizioni applicabili della convenzione o adottare altre misure per conformarsi alle disposizioni del trattato rispettando pienamente i loro obblighi internazionali in materia di diritti umani.
La convenzione prevede requisiti di trasparenza e controllo adattati ai contesti e ai rischi specifici, tra cui l’identificazione dei contenuti generati dai sistemi di AI.
- Le parti dovranno adottare misure per identificare, valutare, prevenire e mitigare i possibili rischi e valutare la necessità di una moratoria, di un divieto o di altre misure appropriate riguardanti l’utilizzo di sistemi di AI laddove tale utilizzo potrebbe presentare rischi incompatibili con le norme in materia di diritti umani.
- Le parti dovranno stabilire le responsabilità e assicurare il rispetto dell’uguaglianza, compresa quella di genere, il divieto di discriminazione e la protezione della privacy. Dovranno anche garantire vie di ricorso e garanzie procedurali per le vittime di violazioni dei diritti umani legate all’utilizzo dei sistemi AI.
- Le persone che interagiscono con un sistema AI devono essere informate del fatto che stanno interagendo con un sistema del genere.
- Per quanto riguarda i rischi per la democrazia, il trattato richiede alle parti di adottare misure per assicurare che i sistemi AI non siano utilizzati per compromettere le istituzioni democratiche, tra cui il principio della separazione dei poteri, l’indipendenza giudiziaria e l’accesso alla giustizia.
- Le parti firmatarie non saranno obbligate a applicare le disposizioni del trattato alle attività relative alla protezione degli interessi nazionali ma dovranno garantire che tali attività siano condotte nel rispetto delle istituzioni democratiche e del diritto internazionale.
- La convenzione non si applicherà alle questioni di difesa nazionale né alle attività di ricerca e sviluppo, salvo nei casi in cui il test dei sistemi AI potrebbe interferire con i diritti umani.
Un meccanismo di monitoraggio
Per garantire un’attuazione efficace, la convenzione istituisce un meccanismo di monitoraggio sotto forma di Conferenza delle parti. Infine, la convenzione richiede a ogni parte di istituire un meccanismo di controllo indipendente per verificare la conformità alla convenzione, oltre a sensibilizzare il pubblico, stimolare un dibattito pubblico informale e tenere consultazioni multilaterali su come utilizzare la tecnologia AI.