Un video creato da una IA mostra un Narendra Modi alla moda, mentre si esibisce su un palco al ritmo di una canzone di Bollywood mentre la folla esulta. Il primo Ministro indiano ha ricondiviso il video su X, dicendo che “tale creatività durante l’alta stagione dei sondaggi è davvero una delizia”.
Un altro video, con la stessa scenografia, mostra la rivale di Modi, Mamata Banerjee, che balla con un abito simile a un sari, ma la colonna sonora di sottofondo fa parte del suo discorso che critica coloro che hanno lasciato la sua festa per unirsi a quella di Modi. La polizia di stato ha avviato un’indagine affermando che il video può “influenzare la legge e l’ordine”, riporta Reuters.
Le diverse reazioni ai video creati utilizzando strumenti di intelligenza artificiale sottolineano come l’uso e l’abuso della tecnologia sia in aumento e crei preoccupazioni per i regolatori e i funzionari della sicurezza mentre la nazione più popolosa del mondo tiene un’enorme elezione generale.
I video AI facili da realizzare, che contengono ombre e movimenti delle mani quasi perfetti, a volte possono fuorviare anche le persone digitalmente alfabetizzate. Ma i rischi sono maggiori in un Paese in cui molti degli 1,4 miliardi di persone hanno problemi tecnologici e dove i contenuti manipolati possono facilmente fomentare tensioni settarie, soprattutto in periodo elettorale.
Secondo un sondaggio del World Economic Forum pubblicato a gennaio, il rischio per l’India derivante dalla disinformazione è considerato superiore al rischio derivante da malattie infettive o attività economiche illecite nei prossimi due anni.
Le elezioni nazionali del 2024, che si tengono nell’arco di sei settimane e termineranno il 1° giugno, sono le prime in cui viene utilizzata l’intelligenza artificiale. Gli esempi iniziali erano innocenti, limitati ad alcuni politici che utilizzavano la tecnologia per creare video e audio per personalizzare le proprie campagne.
Ma importanti casi di abuso hanno fatto notizia ad aprile, tra cui deepfake di attori di Bollywood, apertura di una nuova scheda che critica Modi e clip falsi, apertura di una nuova scheda che coinvolge due dei principali aiutanti di Modi che ha portato all’arresto di nove persone.
La scorsa settimana la Commissione elettorale indiana ha messo in guardia i partiti politici dall’uso dell’intelligenza artificiale per diffondere disinformazione e ha condiviso sette disposizioni sulla tecnologia dell’informazione e altre leggi che prevedono pene detentive fino a tre anni per reati tra cui falsificazione, promozione di notizie false e istigazione all’odio.
Un alto funzionario della sicurezza nazionale a Nuova Delhi ha affermato che le autorità sono preoccupate per la possibilità che notizie false portino a disordini. La facile disponibilità di strumenti di intelligenza artificiale rende possibile la produzione di tali notizie false, soprattutto durante le elezioni, ed è difficile contrastarle, ha affermato il funzionario.
Da anni è attivo un comitato del ministero indiano dell’IT che, a sua discrezione o dopo aver ricevuto denunce, ordina il blocco dei contenuti che ritiene possano danneggiare l’ordine pubblico. Durante queste elezioni, l’organismo di vigilanza dei sondaggi e la polizia di tutta la nazione hanno schierato centinaia di funzionari per individuare e cercare di rimuovere i contenuti problematici.
Mentre la reazione di Modi al suo video di danza con l’intelligenza artificiale – “Mi è piaciuto anche vedermi ballare” – è stata spensierata, la polizia della città di Calcutta, nello stato del Bengala occidentale, ha avviato un’indagine contro l’utente X, SoldierSaffron7, per aver condiviso il video di Banerjee.
I video di danza di Modi e Banerjee, con 30 milioni e 1,1 milioni di visualizzazioni rispettivamente su X, sono stati creati utilizzando un sito web gratuito, Viggle. Il sito consente una fotografia e alcune istruzioni di base dettagliate in un tutorial per generare video in pochi minuti che mostrano la persona nella fotografia che balla o fa altre mosse nella vita reale.
Lucia Giannini