Lo scorso mercoledì 13 marzo, il Parlamento europeo ha approvato il nuovo regolamento UE sull'utilizzo dell'intelligenza artificiale. Come riportato sul sito di Bruxelles, l'obiettivo della nuova legge è quello di "garantire la sicurezza e il rispetto dei diritti fondamentali dei cittadini" nell'utilizzo dei sistemi di IA ritenuti ad alto rischio. Al contempo, il regolamento intende "promuovere l'innovazione e assicurare all'Europa un ruolo guida nel settore".
Le nuove disposizioni comunitarie – concordate in sede di Consiglio europeo lo scorso dicembre – sono state create nel tentativo di limitare le molteplici ripercussioni che l'intelligenza artificiale avrà su moltissimi ambiti della nostra vita quotidiana. Uno di quelli più delicati riguarda la sanità e prende in considerazione il trattamento dei dati personali, il rispetto della privacy dei pazienti e l'utilizzo dell'AI nella diagnosi delle malattie e nella prescrizione di percorsi di cura.
Per capire quale impatto avrà il nuovo regolamento UE sul nostro apparato legislativo, sul Sistema Sanitario Nazionale e sul rapporto tra medico e paziente abbiamo intervistato Barbara Ponzi, avvocato civilista, esperta di privacy e gestione dei dati personali.
Nuovo regolamento Ue sull'intelligenza artificiale: quale impatto avrà sulla sanità? Intervista all'esperta di privacy
Barbara Ponzi, quali sono le novità più importanti introdotte dal nuovo regolamento Ue sull'intelligenza artificiale circa la tutela dei dati in caso di utilizzo di sistemi di IA in sanità?
"Per rispondere a questa domanda è necessario premettere che i sistemi di IA che incidono sul diritto alla salute sono qualificabili come sistemi ad alto rischio, vale a dire idonei a produrre – in assenza di adeguate garanzie – effetti discriminatori e lesivi dei dati personali dei cittadini. Ebbene, credo che la novità più importante introdotta dal nuovo regolamento Ue sull'intelligenza artificiale sia proprio la specificazione che, fin dalla progettazione di un sistema di IA che riguarda la salute e durante il suo intero ciclo di vita, devono essere rispettati i principi in materia di protezione dei dati personali (sanciti dal regolamento Ue n° 679/2016)".
Il nuovo regolamento europeo quali tutele garantisce per i pazienti la cui salute viene trattata tramite l'utilizzo dell'intelligenza artificiale nella raccolta dei dati?
"Le informazioni relative alla salute di un cittadino sono particolarmente sensibili e richiedono un elevato livello di protezione. Deve essere garantito ai pazienti che i dati raccolti tramite l'utilizzo dell'intelligenza artificiale siano adeguati, pertinenti e limitati. Inoltre, devono essere messe a disposizione dei soggetti interessati tutte le informazioni più significative sul sistema tecnologico adottato".
A livello pratico, quali saranno le ripercussioni del regolamento nei rapporti tra il cittadino e il Sistema Sanitario Nazionale?
"Come è noto, fra gli obbiettivi che il PNRR si è posto in relazione al settore della sanità vi è quello della digitalizzazione del SSN, che passa attraverso il potenziamento della capacità di utilizzare e condividere informazioni (la cosiddetta "interoperabilità dei dati") con il fine specifico di migliorare l'efficienza, l'efficacia e l'accessibilità dell'assistenza sanitaria offerta ai cittadini. L'attuale sanità analogica sta, pertanto, transitando verso una dimensione più tecnologica all'interno della quale l'IA svolgerà sicuramente un ruolo molto importante attraverso modelli di sanità proattiva e predittiva".
Quali sono i rischi maggiori legati a questa rivoluzione?
"È indubbio che, se l'IA può apportare in campo sanitario i vantaggi sopra elencati, è altrettanto vero che la stessa può comportare rischi per la privacy dei cittadini, in particolare se consideriamo l'elaborazione massiva di dati con cui viene addestrata. Inoltre occorre considerare i pericoli discriminatori che possono derivare dall'alimentare gli algoritmi con dati inesatti o incompleti. Di conseguenza, è fondamentale che vengano predisposte misure adeguate a tutela dei diritti fondamentali dei pazienti, compresa la loro privacy, fin dalla fase della progettazione di un sistema di IA. Infine, è necessario effettuare raffronti fra i risultati dei sistemi di IA e le decisioni prese da gruppi di medici senza l'ausilio dell'intelligenza artificiale".
Proprio su questi temi, lei collabora anche con l'Ordini dei Medici: cosa pensa che cambierà nel lavoro quotidiano di dottori e specialisti?
"L'introduzione di sistemi di IA potrebbe impattare sulla relazione tra medico e paziente, anche se da un sondaggio recentemente svolto a livello mondiale è emerso che la maggior parte degli intervistati si affiderebbe a sistemi di IA solo in ambiti di monitoraggio, preferendo affidarsi a un dottore in carne ed ossa in tutti quei contesti in cui il rapporto di fiducia, l'esperienza e gli aspetti psicologici giocano un peso maggiore".
C'è il rischio che l'IA sostituisca i medici in un prossimo futuro?
"Per evitare che il rapporto tra medico e paziente si spezzi, è necessario rispettare sempre il principio di non esclusività della decisione, secondo cui deve comunque esserci un intervento umano capace di controllare, validare o smentire la decisione automatica assunta dall'intelligenza artificiale. Anche la politica dev'essere consapevole di questo e mi sembra che la strada intrapresa sia quella giusta: come affermato di recente dalla presidente del Consiglio Giorgia Meloni, solo sistemi di IA incentrati sull'uomo e controllati dall'uomo possono essere affidabili e democratici".
Ci sono degli esempi virtuosi di applicazione sistemi di IA nella sanità italiana?
"Nel nostro Paese sono presenti molteplici esempi di applicazione virtuosa di sistemi di IA in sanità. Ad esempio, presso l'azienda ospedaliero-universitaria di Siena l'intelligenza artificiale è usata per il miglioramento delle diagnosi e per la definizione dei percorsi clinici, in particolare per l'analisi di immagini ottenute con risonanza magnetica e tomografia computerizzata. Ancora, presso l'Istituto Humanitas vengono utilizzate immagini in 3D per la diagnosi del feto e nel campo oncologico, mentre al Policlinico Gemelli di Roma è stata sviluppata una piattaforma digitale che integra e combina una grande quantità di dati e informazioni per addestrare dei modelli predittivi di IA: lo scopo è quello di individuare in anticipo la re-ospedalizzazione del paziente ricoverato per scompenso cardiaco".
Come cambia la responsabilità dei medici con il nuovo regolamento?
"Il tema della responsabilità civile per danni causati dall'impego di un sistema di IA è particolarmente spinoso, vista l'assenza di precise indicazioni legislative. La dottrina ha cercato di colmare tale vuoto avanzando due diverse ricostruzioni. Secondo la prima tesi, il medico non risponderebbe del malfunzionamento di un sistema di IA, ma solo di un suo uso negligente. Secondo un'altra tesi, il medico dovrebbe essere chiamato a rispondere a titolo di responsabilità extracontrattuale (ai sensi del codice civile) nei casi di attività pericolosa o di cosa in custodia. Per entrambe le tesi occorre comunque verificarne la concreta adattabilità al concetto di IA".
Da avvocato, ha già avuto a che fare con situazioni in cui l'intelligenza artificiale ha causato danni a cittadini o professionisti?
"Al momento non ho trattato come professionista casi di responsabilità per danni derivanti dall'uso di sistemi di IA. Quello che è certo è che bisogna arrivare preparati a questa nuova sfida, puntando sulla formazione e auspicando che anche il legislatore faccia la sua parte, posto che l'attuale normativa sulla responsabilità medica non appare adeguata alle attuali rivoluzioni tecnologiche e digitali che si stanno attuando in campo sanitario".
Dunque, a livello normativo, cosa occorre fare nel nostro Paese per armonizzare i sistemi vigenti con il nuovo regolamento sull'intelligenza artificiale?
"Il nuovo regolamento UE sull'intelligenza artificiale inizierà ad applicarsi 24 mesi dopo la sua entrata in vigore, ad eccezione delle disposizioni per sistemi ad alto rischio, che invece inizieranno ad applicarsi dopo 36 mesi. Credo che in questo lasso temporale il nostro Paese debba promuovere l'adozione di un'intelligenza artificiale affidabile e incentrata sull'uomo, trovando il giusto bilanciamento fra i diritti fondamentali di rilevanza costituzionale e il carattere innovativo che caratterizza tali sistemi".