Una parte di internet è piena di Gesù creati con l'IA: vogliono tutti truffare gli utenti
Gesù fatto di gamberetti, zucchine, bottiglie di plastica, spaghetti, pezzi di automobili. Gli algoritmi di raccomandazione sui social stanno pompando strane immagini generate dall'intelligenza artificiale a tema religioso. Le foto sono diventate virali soprattutto su Facebook accumulando mi piace e sfilze di "Amen" tra i commenti (probabilmente scritti da bot). Hanno ricevuto centinaia di milioni di interazioni sulla piattaforma, secondo una nuova analisi dell'Osservatorio Internet di Stanford che ha studiato 120 pagine di questo tipo. Pagine gestite da spammer e truffatori.
"Le immagini sono accattivanti: alcune sono belle, alcune sensazionali e alcune sono semplicemente strane", ha spiegato Renée DiResta, ricercatrice dell'Università di Stanford e autrice dello studio. "I Jesus Christ sono diventati una risorsa facile per attirare l'attenzione, e infatti la pubblicazione di contenuti generati dall'intelligenza artificiale viene premiata dai sistemi di raccomandazione che sembrano promuovere le immagini", ha aggiunto DiResta.
Le pagine sono diventate una sorta di test per i truffatori: chi interagisce senza riconoscere l'intervento dell'IA è un bersaglio più semplice. Loro puntano e scrivono. Al di là delle immagini strane, infatti, tutto diventa più allarmante quando si cominciano a leggere i commenti.
Cosa dicono i post su Facebook
Le immagini battono sullo stesso tema e anche l'estetica è omogenea, iper saturate, con colori sgargianti. Spesso accanto alle strane statue di Gesù ci sono anche bambini e nella didascalia si legge "meravigliose opere di questi ragazzi dell'Africa", oppure "il migliore artista del villaggio". Sotto l'immagine, un bambino nero in piedi vicino a un Gesù Cristo fatto di spaghetti, scrivono: "Grazie a tutti coloro che apprezzano la mia arte". Su nessuna immagine c'è un'etichetta che segnali la natura artificiale.
Al di là della nuova moda religiosa, diverse pagine Facebook cercano di rompere l'algoritmo pubblicando foto di bambini, animali e paesaggi, "le pagine spesso attraversavano periodi di tendenze, per esempio le sculture di neve, i pezzi di anguria tagliati, piatti di sushi disposti ad arte, tutti hanno uno stile molto simile", si legge nell'articolo.
Come funziona la truffa
La truffa è sotto gli occhi di tutti. I gestori della pagina infatti cercano le loro vittime tra i commenti. Gli utenti che scrivono sotto i post vengono contattati con messaggi simili: "Sono francese e sono passati più di 13 anni da quando mio marito è morto in un incidente d'auto. Dopo la morte, ho ereditato la fortuna di mio marito. Considerando la mia età avanzata e il mio stato di salute, ho deciso di aiutare finanziariamente le persone che desiderano ricevere un aiuto finanziario per le loro necessità, visto che non ho figli che possano beneficiare della mia eredità e non voglio che il governo congeli il mio patrimonio dopo la morte. Quindi, se sei interessato ad un'attività economica, mandami un messaggio", in allegato il numero di telefono.
"Gli account truffa occasionalmente interagiscono con i commentatori ingenui sui post, a volte chiedendo informazioni personali su di loro, altre cercano di vendere prodotti che non esistono", si legge nello studio. "Il meccanismo di selezione è semplice, se qualcuno crede che quelle immagini false siano vere, probabilmente è più ingenuo e facile da truffare".
Il paradosso di Meta
"Sospettiamo che questi alti livelli di coinvolgimento siano guidati in parte dall'algoritmo di raccomandazione di Facebook", ha spiegato DiResta. Meta infatti due anni fa ha modificato l'algoritmo per rendere i suoi social più simili a TikTok. L'obiettivo era "aiutare le persone a trovare e fruire di contenuti interessanti indipendentemente dal fatto che siano stati prodotti da qualcuno a cui sono connessi o meno".
In altre parole costruire una sezione "Per te". Ora in mezzo ai consigliati sono finite anche le sculture di Gesù fatto con calamari, cozze e gamberetti, e questo è un problema. Meta non solo non ha ancora lanciato le etichette per l'intelligenza artificiale, ma ora promuove anche contenuti fuorvianti che mettono a rischio gli utenti.