In India, con novecentosessantanove milioni di elettori e ventidue lingue ufficiali, i partiti politici stanno utilizzando la tecnologia deepfake per raggiungere in modo efficace un elettorato vasto e diversificato. Questa tecnica, che sfrutta l'intelligenza artificiale, consente ai politici di generare video e audio realistici, anche se mai realmente registrati, in cui parlano diverse lingue.
Divyendra Singh Jadoun è il fondatore di The Indian Deepfaker, una startup specializzata nella produzione di deepfake per l’industria cinematografica. Negli ultimi mesi, la società ha ricevuto un’impennata di richieste da parte di politici. "Sono interessati alla creazione di deepfake per riprodurre i loro video in decine di lingue, ma non solo, anche gli audio per le deepfake call vanno molto forte” spiega. Jadoun si riferisce a finte chiamate in cui la voce generata di un politico interagisce con l’elettore chiamandolo per nome e chiedendogli opinioni personali.
Nonostante The Indian Deepfaker produca deepfake che definisce "etici", chiarendo sempre che i contenuti sono generati dall'AI ed evitando di screditare gli avversari, queste tecnologie vengono usate spesso in modo improprio. "Abbiamo la tendenza a credere a ciò che vediamo e sentiamo - dice Jadoun - e se usate in modo sbagliato, queste tecnologie possono essere manipolatorie e polarizzanti”. In India sono diversi i casi in cui gli stessi partiti politici hanno creato deepfake denigratori degli avversari, mascherandoli per video “satirici”.
Le tecnologie di AI detection
Con la diffusione di questa tecnologia, c'è il rischio che gli elettori trovino sempre più difficile distinguere tra messaggi autentici e sintetici. Gli esperti dell'Internet Freedom Foundation di Nuova Delhi hanno già avvertito che senza un’opportuna regolamentazione, la campagna elettorale in India potrebbe diventare un "Far West". L'India è considerato un paese a rischio per quanto riguarda la disinformazione. Molti cittadini hanno avuto accesso alla rete solo di recente e risultano poco alfabetizzati dal punto di vista tecnologico e più suscettibili a informazioni false come video o audio manipolati.
Diverse realtà lavorano per sviluppare strumenti di AI detection e più in generale per sfruttare l’intelligenza artificiale per combattere la disinformazione, come nel caso di AI4TRUST, un progetto finanziato dall'Unione Europea a cui partecipa anche SkyTG24.