In India i cloni dei politici chiamano a casa per farsi votare: non è un buon segnale per il futuro
L'obiettivo del messaggio politico è far sentire l'elettore il diretto destinatario. Basta pensare al dito puntato di Uncle Sam sopra la scritta "I want you for U.S. Army". Con l'intelligenza artificiale il processo di personalizzazione si acutizza, il proposito è lo stesso, ma i mezzi più potenti rischiano di inquinare il panorama politico. In parte sta già succedendo.
E per capire meglio cosa ci aspetta dobbiamo guardare verso est. In India il 19 aprile inizierà un lunghissimo percorso elettorale che porterà al voto quasi un miliardo di persone. Per prepararsi i politici indiani hanno lanciato campagne realizzate con l'IA. Non si sono limitati a inviare messaggi video agli elettori ma hanno utilizzato le loro voci clonate per telefonare direttamente alle persone, chiamandole per nome.
La classe politica si è seduta di fronte a una telecamera, con un green screen alle spalle, per addestrare gli algoritmi a replicare le loro bocche, nasi e occhi. Hanno generato avatar in grado di parlare con gli elettori su WhatsApp, e usato i software per tradurre i messaggi politici in tutti i dialetti indiani. Questa potrebbe essere la prima campagna iperpersonalizzata grazie all'intelligenza artificiale.
Il rischio è di non riuscire più distinguere il falso dal reale. E mentre la tecnologia irrompe nel panorama politico, non ci sono ancora i guardrail per prevenire un uso improprio.
Chi crea le immagini elettorali in India
I deepfake possono essere creati da singoli utenti, ma anche da veri e propri team, soprattutto se parliamo di campagne elettorali. È il caso di The Indian Deepfaker, una start-up d'intelligenza artificiale che si trova nel deserto occidentale del Rajasthan. Divyendra Singh Jadoun, ex studente che ha abbandonato il college per creare deepfake, ha raccontato al New York Times: "All'inizio abbiamo realizzato spot pubblicitari con avatar di attori e attrici di Bollywood generati dall'intelligenza artificiale. Ma all'inizio di quest'anno, partiti e politici hanno iniziato a chiederci di fare per loro quello che avevamo fatto per le celebrità". Delle 200 richieste, ha detto Jadoun, ne hanno accettate 14.
Tra i candidati c'è Shakti Singh Rathore, membro del Bharatiya Janata Party. Ha deciso di realizzare una sua copia digitale per parlare con più persone possibili. "L'intelligenza artificiale è meravigliosa ed è la via da seguire", ha detto Rathore. "Come avrei potuto raggiungere così tanti elettori del nostro partito e di Modi in un periodo di tempo così breve?". Non solo, l'IA ha permesso di tradurre contemporaneamente i filmati in più lingue, anche i dialetti regionali, raggiungendo così la popolazione che vive negli angoli remoti dell'India.
Come vengono creati i deepfaeke dei politici
Per prima cosa è necessario inquadrare il volto e isolarlo. Vengono raccolti i dati sui lineamenti, per esempio bocca, naso, orecchie o la distanza che separa gli occhi. Tutte le informazioni raccolte servono ad addestrare l'IA che sarà poi in grado di prevedere anche i modelli facciali e quindi sincronizzare il labiale o creare espressioni coerenti con la fisionomia del volto. Non solo, anche la voce viene clonata con i software che riescono a riprodurre il tono, la cadenza e gli accenti di chi parla. Jadoun ha spiegato che il suo team potrebbe produrre fino a 10.000 video al giorno.
I rischi per le future elezioni
Le elezioni sono diventate un banco di prova per l'intelligenza artificiale. Al di là dell'India, abbiamo già qualche esempio. Il candidato argentino Sergio Massa, durante la campagna elettorale è stato trasformato in Indiana Jones, e poi in un acchiappafantasmi. La voce di Joe Biden è stata invece clonata per inviare messaggi agli elettori del New Hampshire, e alla vigilia delle elezioni Usa del 2024 sono spuntate anche sui social immagini plastiche di Donald Trump abbracciato a un gruppo di donne nere.
I deepfake hanno aperto nuove preoccupazioni sull'impatto dell'IA sulle elezioni politiche. Secondo il segretario di Stato David Scanlan "i casi hanno rafforzato la preoccupazione nazionale sull'effetto che l'intelligenza artificiale avrà sulle campagne". Gli ha fatto eco Robert Weissman, presidente di Public Citizen: "Il momento del deepfake politico è arrivato", aveva dichiarato in un comunicato stampa. "I politici devono affrettarsi a mettere in atto misure di protezione, altrimenti ci troveremo di fronte al caos elettorale".