Come Google, Meta e Microsoft, OpenAI offre chatbot online e altri strumenti di intelligenza artificiale in grado di scrivere post sui social media, creare immagini fotorealistiche e scrivere programmi per computer. La società ha affermato nel suo rapporto che i suoi strumenti sono stati utilizzati in campagne di influenza che i ricercatori hanno monitorato per anni, tra cui una campagna russa chiamata Doppelganger e una campagna cinese chiamata Spamouflage.
La campagna Doppelganger ha utilizzato la tecnologia OpenAI per pubblicare commenti anti-ucraini che sono stati pubblicati su X in inglese, francese, tedesco, italiano e polacco, ha affermato OpenAI. Gli strumenti dell’azienda sono stati utilizzati anche per tradurre e modificare articoli a sostegno della Russia nella guerra in Ucraina in inglese e francese e per convertire articoli di notizie anti-ucraine in post su Facebook.
La società ha affermato che gli strumenti di OpenAI sono stati utilizzati anche in una campagna russa precedentemente sconosciuta che ha preso di mira persone in Ucraina, Moldavia, Paesi Baltici e Stati Uniti, principalmente tramite il servizio di messaggistica Telegram. La campagna ha utilizzato l’intelligenza artificiale per generare commenti in russo e inglese sulla guerra in Ucraina, nonché sulla situazione politica in Moldavia e sulla politica degli Stati Uniti. Questi sforzi hanno utilizzato anche gli strumenti OpenAI per eseguire il debug del codice del computer che sembrava essere progettato per pubblicare automaticamente informazioni su Telegram.
OpenAI ha affermato che i commenti politici hanno ricevuto poche risposte e “mi piace”. Talvolta gli sforzi erano anche poco sofisticati. A un certo punto, la campagna ha pubblicato un testo chiaramente generato dall’intelligenza artificiale, con un post che diceva: “Come modello linguistico dell’intelligenza artificiale, sono qui per aiutare e fornire il feedback richiesto”. In altri punti, hanno postato in un inglese scarso, spingendo OpenAI a definire il tentativo “cattiva grammatica”.
Spamoflage, che è stato a lungo attribuito alla Cina, ha utilizzato la tecnologia di OpenAI per eseguire il debug del software e chiedere consigli su come analizzare i social media e ricercare eventi attuali, ha affermato OpenAI. I suoi strumenti sono stati utilizzati anche per creare post sui social media denigratori delle persone che criticavano il governo cinese.