Con il boom delle intelligenze artificiali generative, molti avevano già ipotizzato possibili abusi in ambito di revenge porn. Oggi è successo a Rose Villain, ma il dibattito è aperto: è necessaria una regolamentazione più stringente per le IA?
Un tempo, c'era da preoccuparsi che i nostri cloud venissero hackerati e le nostre foto intime diffuse sul web. Oggi, bisogna anche stare attenti che suddette foto intime non vengano direttamente generate con l'IA.
Ed è proprio ciò che è capitato a Rosa Luini – aka, Rose Villain – la cantante che quest'anno ha fatto ballare tutti con la sua hit sanremese "Click Boom". In poche ore, diverse foto hot false della star sono state "leakate" ad ogni angolo del web.
La denuncia arriva in primis su Instagram, dove la cantante si è sfogata contro coloro che hanno generato alcuni deepfake iperrealistici che la raffiguravano in pose compromettenti.
«Stanno girando foto di me nuda che ovviamente sono dei fake. Ma comunque la cosa mi mette un grande disagio e mi fa sentire violata», ha scritto Rose Villain su Instagram.
Foto generate con l'Intelligenza Artificiale, ma che comunque riescono a fare male. Perché reati di questo tipo rientrano nel "revenge porn", una pratica tristemente nota a molte persone che ogni giorno vengono danneggiate da tali stunt.
«È una violenza a tutti gli effetti e il problema è che queste cose succedono anche a persone molto fragili che magari non sanno proteggersi, tutelarsi e difendersi come invece possono e devono fare».
Oggi, la cantante ha sporto denuncia, ma sarà molto difficile risalire al responsabile.
Diversi movimenti femministi avevano già però sollevato la questione agli albori dell'intelligenza artificiale generativa in tutto il mondo, esprimendo crescente preoccupazione riguardo a come queste tecnologie possono facilitare abusi e violenza di genere senza nessuna possibilità di rintracciarne i fautori.
Il caso di Rose Villain accende infatti ancora una volta il dibattito su una delle sfide più intricate e discusse dell'era dell'Intelligenza Artificiale: i deepfake.
Questa tecnologia, che sfrutta algoritmi di apprendimento automatico avanzati e intelligenza artificiale (IA), ha la capacità di creare immagini, video e audio estremamente realistici, nei quali il viso o la voce di una persona possono essere sostituiti con quelli di un'altra.
Originariamente sviluppata per scopi legittimi, come nel cinema per la creazione di effetti speciali o nel doppiaggio linguistico, questa tecnologia ha rapidamente trovato applicazioni meno etiche e potenzialmente dannose.
Il pericolo dei deepfake risiede principalmente nella loro capacità di ingannare, manipolare e diffondere disinformazione.
Possono essere utilizzati per creare falsi video o registrazioni audio di figure pubbliche, facendole apparire mentre dicono o fanno cose mai realmente accadute – lo abbiamo visto con la celeberrima telefonata di Joe Biden – con impatti devastanti sulla reputazione, sulla politica e sulla fiducia pubblica.
In un'epoca in cui l'informazione viaggia alla velocità della luce attraverso i social media, la capacità di discernere tra realtà e finzione diventa sempre più labile, minando le basi stesse del dialogo democratico e della coesione sociale.
Un campo in cui i deepfake si rivelano particolarmente pericolosi è però appunto quello legato al revenge porn, ovvero la diffusione non consensuale di materiale intimo.
Attraverso l'uso dei deepfake, è possibile creare video o immagini che ritraggono individui in atti sessuali o situazioni intime senza che questi vi abbiano mai partecipato. Ciò non solo viola la privacy e la dignità delle persone coinvolte ma può avere conseguenze devastanti sulla loro vita, portando a vergogna, isolamento sociale, perdita di opportunità lavorative e, nei casi più gravi, a depressione o pensieri suicidari.
La correlazione tra deepfake e revenge porn evidenzia una problematica fondamentale: l'abuso della tecnologia per fini di manipolazione e vendetta personale. Questo solleva questioni etiche e legali urgenti, riguardanti non solo la tutela della privacy e dell'integrità individuale ma anche la responsabilità degli sviluppatori di tali tecnologie e delle piattaforme che consentono la loro diffusione.
Registrati alla nostra newsletter
Ivan Cunzolo
Alessia Seminara
Ivan Cunzolo