I chatbot di AI più popolari in Europa forniscono disinformazione "involontaria" agli utenti in vista delle elezioni europee, secondo uno studio di Democracy Reporting International. Interrogati in varie lingue ChatGPT, Gemini e Copilot non rispondono in modo inaccurato o addirittura inventano
Quattro dei chatbot di intelligenza artificiale (Ai) più popolari in Europa non forniscono agli utenti informazioni accurate sulle prossime elezioni, rivela uno studio di Democracy Reporting International.
L'organizzazione no profit, con sede a Berlino, ha rivolto varie domande sulle elezioni europee a Gemini di Google, ChatGPT 3.5 e 4.0 di OpenAI e Copilot di Microsoft per vedere quali risposte avrebbero fornito.
I ricercatori hanno posto ai chatbot 400 domande in 10 lingue diverse dell'Ue sulle elezioni e sul processo di voto in 10 Paesi dell'Unione Europea, in un linguaggio semplice e ritenuto compatibile con l'utente medio di questi programmi di Ai.
L'esperimento, condotto tra l'11 e il 14 marzo scorsi, ha concluso che nessuno dei quattro chatbot è stato in grado di "fornire risposte attendibili" alle tipiche domande sulle elezioni, nonostante siano state calibrare per evitare risposte di parte.
"Non siamo rimasti sorpresi", ha dichiarato a Euronews Next Michael-Meyer Resende, direttore esecutivo di Democracy Reporting International.
Gemini di Google risulta il chatbot AI più inaccurato sulle elezioni Ue
In vista di un 2024 con oltre settanta elezioni nel mondo, incluso le europee di giugno e le presidenziali di novembre negli Stati Uniti, il rischio della disinformazione via intelligenza artificiale è stato messo al centro dell'attenzione.
Lo scorso dicembre, AlgorithmWatch, un'altra organizzazione no-profit tedesca, ha pubblicato uno studio simile che mostrava come Bing Chat, il chatbot guidato dall'intelligenza artificiale del motore di ricerca di Microsoft, avesse risposto male a una domanda elettorale su tre in Germania e Svizzera.
Alla luce dei risultati dello studio, Google - il cui Gemini è risultato fornire il maggior numero di informazioni fuorvianti o false e il maggior numero di rifiuti di rispondere alle domande - ha confermato a Euronews Next di avere posto ulteriori restrizioni al suo modello linguistico di grandi dimensioni (Llm).
I chatbot di AI sono utili ma non sempre precisi sulle elezioni
Ci sono aree in cui i chatbot hanno dato risultati scarsi, come le domande sulla registrazione degli elettori e sul voto all'estero, spiega Resende.
Lo studio Democracy Reporting International ha anche rilevato che i chatbot spesso "allucinano" o fabbricano informazioni se non conoscono la risposta, tra cui diverse date elettorali sbagliate.
Resende interpreta questi risultati devinati come la "tendenza dei chatbot a voler essere 'utili' piuttosto che precisi". Vediamo alcuni esempi.
Elezioni Ue, quali informazioni sbagliate danno ChatGPT, Gemini e Copilot
I tre chatbot hanno commesso lo stesso errore di dire agli utenti che potevano votare per posta in Portogallo, ma in realtà non è un'opzione per gli elettori portoghesi.
Gemini ha affermato anche che il Parlamento europeo avrebbe inviato una missione di osservazione elettorale in Lituania, il che è falso (l'unica missione elettorale dell'Ue per il 2024 è prevista in Bangladesh).
Anche per quanto riguarda le risposte migliori fornite dai chatbot, il rapporto ha rilevato che spesso le risposte includevano collegamenti interrotti o irrilevanti il che ne "indebolisce la qualità" secondo lo studio.
Le cose si sono complicate quando i ricercatori hanno cercato le risposte in varie lingue europee.
I ricercatori hanno posto la stessa domanda in dieci lingue e in alcune casi, come per Gemini con lo spagnolo, le piattaforme si rifiutavano di rispondere oppure, soprattutto nel caso del turco, confondevano le informazioni per le elezioni locali con quelle delle europee.
I chatbot avrebbero persino fornito risposte diverse alla stessa domanda posta più volte nella stessa lingua, un'occorrenza che i ricercatori hanno identificato come "casualità".
Google, meglio Search che l'AI di Gemini per informarsi sulle europee
Google ha incoraggiato i suoi utenti a usare Google Search invece di Gemini per trovare informazioni accurate sulle prossime elezioni.
Resende di Democracy Reporting International ha affermato che le altre piattaforme dovrebbero seguire questa strada e che farà ulteriori test su Gemini nelle prossime settimane.
In una dichiarazione rilasciata a Euronews Next, Microsoft ha illustrato le sue azioni in vista delle elezioni europee, tra cui una serie di impegni per la protezione delle elezioni che "contribuiscono a salvaguardare elettori, candidati, campagne e autorità elettorali".
Tra questi impegni c'è quello di fornire agli elettori "informazioni elettorali autorevoli" su Bing.
OpenAI non ha risposto invece alla richiesta di commento di Euronews Next sulla prestazione di ChatGPT.
L'azienda ha spiegato, in una dichiarazione sul suo sito web, che l'approccio ai contenuti relativi alle elezioni è quello di "continuare il lavoro di sicurezza della piattaforma elevando l'accuratezza delle informazioni di voto".
Commissione Ue, le valutazioni del rischio fake news devono essere pubbliche
A febbraio, la Commissione europea ha approvato il Digital Services Act (Dsa), che richiede alle piattaforme online di grandi dimensioni come Google, Microsoft e OpenAI di condurre valutazioni del rischio per la diffusione di fake news e disinformazione sulle loro piattaforme.
Queste valutazioni del rischio dovrebbero includere qualsiasi "manipolazione intenzionale" dei loro servizi e il loro potenziale impatto sui "processi elettorali".
Il rapporto di Democracy Reporting International suggerisce che i requisiti per il Dsa -comprese le valutazioni del rischio, i test e la formazione per mitigare i rischi legati alle elezioni - non sono stati rispettati.
Secondo Resende queste aziende sono riluttanti a condividere le valutazioni del rischio di disinformazione legato ai Chatbot di AI "perché non le hanno fatte o perché non sono sicure del livello di dettaglio che hanno investito in questo".
Ue, "la Commissione europea vigila sulla disinformazione dell'AI"
Un mese dopo il lancio ufficiale delle regole sull'intelligenza artificiale, la Commissione ha avviato una richiesta di informazioni a Bing e Google Search per valutare gli sforzi per affrontare i rischi di fake news prodotte dall'intelligenza artificiale generativa.
La Commissione ha confermato a Euronews Next che sta esaminando le informazioni ricevute nell'ambito di questa indagine, ma non ha fornito ulteriori dettagli.
Senza riferirsi direttamente allo studio di Democracy Reporting, un portavoce ha dichiarato in un'e-mail che la Commissione "rimane vigile sugli effetti negativi della disinformazione online, compresa quella alimentata dall'intelligenza artificiale".
A marzo la Commissione ha firmato un codice di condotta sulla disinformazione con piattaforme come Google e Microsoft, in cui ci si impegna a promuovere "informazioni di alta qualità e autorevoli per gli elettori".