La società utilizzerà lo standard della Coalition for Content Provenance and Authenticity, il consorzio che promuove l’adozione di strumenti di tracciamento per contrastare la diffusione di deepfake e disinformazione online. “L’IA apre incredibili opportunità creative, ma può anche confondere o ingannare gli utenti se questi non sanno che un contenuto è stato generato dall’intelligenza artificiale”
TikTok ha deciso di etichettare automaticamente i contenuti generati dall’intelligenza artificiale caricati sulla propria piattaforma e prodotti da altre società. La società ha fatto sapere di avvalersi di un accordo con la Coalition for Content Provenance and Authenticity, il consorzio che promuove l’adozione di strumenti di tracciamento per contrastare la diffusione di deepfake e disinformazione online. “L’IA offre incredibili opportunità creative ma, se non si sa che il contenuto è stato generato dall’intelligenza artificiale, gli utenti possono esserne confusi o fuorviati”, ha scritto la società in una nota. “Le etichette aiutano a rendere chiaro il contesto”. La decisione di TikTok, che già prima inseriva etichette sui contenuti generati dal proprio tool di IA, si inserisce in un contesto in cui sempre più grandi piattaforme lavorano per identificare i contenuti generati dall’IA, e combattere la diffusione di prodotti potenzialmente dannosi come deepfake o disinformazione. Un tema su cui nelle scorse settimane è intervenuta anche l’Unione europea, fissando linee guida in vista delle imminenti elezioni europee.
Come funziona il watermark di contenuti IA
TikTok ha deciso di usare i watermark - una sorta di filigrana digitale - sviluppata dalla Coalition for Content Provenance and Authenticity. Si tratta di una coalizione di società tech - tra cui figurano Adobe, Google, Microsoft, OpenAI e molte altre - che si pone l’obiettivo di sviluppare soluzioni standardizzate per certificare la provenienza dei contenuti digitali, al fine di contrastare la diffusione di informazioni false o manipolate online. Come sottolineato dal Guardian, la novità introdotta da TikTok funzionerà in entrambe le direzioni: la piattaforma identificherà automaticamente i contenuti generati dall’IA contrassegnati dai watermark di C2PA e li etichetterà, e allo stesso tempo applicherà la filigrana digitale ai contenuti generati sulla sua piattaforma così da renderli identificabili anche da soggetti terzi. La decisione di TikTok si aggiunge a simili azioni prese nei mesi scorsi da altre grandi società tech, come YouTube - che ha deciso di imporre ai creator di indicare i video realizzati anche grazie all’intelligenza artificiale e che potrebbero indurre in errore gli utenti - e Meta - che ha ampliato la gamma di immagini e video sui quali verrà apposta un’etichetta per segnalare l’utilizzo dell’IA.
leggi anche
Guida ai chatbot basati sull’AI, le migliori alternative a ChatGPT
La lotta contro la disinformazione online
Affinché un sistema come quello dei watermark possa funzionare, comunque, è necessario - come sottolineato da Reuters - che sia il tool di intelligenza artificiale che genera il contenuto sia la piattaforma che lo distribuisce utilizzino lo stesso standard del settore. Come evidenziato ancora dal Guardian, in questo caso la capacità di identificare ed etichettare i contenuti generati dall’IA è legata all’utilizzo dello standard promosso da C2PA.
Come riportato dall’Associated Press, la decisione di TikTok è stata presa per contrastare la diffusione di contenuti di misinformazione online. Il tema del contrasto alle informazioni false o manipolate online è di sempre maggiore attualità, e in vista delle elezioni europee la Commissione Ue ha pubblicato le linee guida per il contrasto alla disinformazione. Tra queste figura l’indicazione alle grandi piattaforme online e ai motori di ricerca, i cui servizi potrebbero essere usati per diffondere contenuti basati sull’IA generativa, di segnalare chiaramente contenuti generati dall’intelligenza artificiale.
(Disinformazione e intelligenza artificiale sono anche i temi al centro del progetto AI4TRUST, di cui Sky TG24 è partner).
leggi anche
Disinformazione, l’Ue indaga su Facebook e Instagram