Meta ha pubblicato il nuovo report trimestrale sui cosiddetti comportamenti coordinati non autentici, ovvero le azioni eseguite da un gruppo di persone per manipolare l’opinione pubblica. L’azienda di Menlo Park ha chiuso centinaia di account su Facebook e Instagram, eliminando contestualmente numerosi contenuti, alcuni dei quali generati con l’intelligenza artificiale.
Immagini e commenti fake
Meta ha identificato e smantellato sei “operazioni di influenza” organizzate in Bangladesh, Cina, Croazia, Iran e Israele (della sesta non è stata scoperta l’origine). Quelle più innovative sono state effettuate da persone che si trovano in Cina e Israele. Nel primo caso sono stati rimossi 37 account, 13 Pagine e 5 Gruppi su Facebook, oltre a 9 account su Instagram. Nel secondo caso sono stati rimossi 510 account, 11 Pagine e un Gruppo su Facebook, oltre a 32 account su Instagram.
In entrambe le campagne sono stati utilizzati tool di intelligenza artificiale generativa. Gli account gestiti da utenti cinesi hanno creato immagini fasulle per pubblicizzare un presunto movimento di attivisti pro-Sikh denominato Operation K.
Gli account gestiti da utenti israeliani hanno invece generato commenti fake, scritti sotto i post di media internazionali e personaggi pubblici, per elogiare l’intervento militare di Israele. Le due reti sono state smantellate prima che la propaganda raggiungesse una audience elevata.
Meta sottolinea che l’uso dell’IA generativa è in aumento, ma attualmente il livello non è troppo sofisticato, quindi i contenuti vengono facilmente individuati dai sistemi dell’azienda. Il Presidente degli affari globali (Nick Clegg) ha evidenziato l’urgenza di creare un standard per i watermark, ovvero una firma digitale nascosta che permette l’individuazione dei contenuti IA.