L’edizione 2024 del Google I/O è stata particolarmente intensa in termini di annunci di intelligenza artificiale. Tra agenti intelligenti e rivoluzioni del motore di ricerca, però, è passata un po’ in sordina la parte dell’evento dedicata all’utilizzo responsabile dell’IA.
È però in quest’ultima che, seppur in modo rapido, si è fatto riferimento a una questione non di poco conto per quel che riguarda la possibilità di rilevare testi e video generati dall’IA. Nel caso ve lo stiate chiedendo, certo: si tratta di un’espansione del già annunciato sistema SynthID di Google DeepMind.
Finora quest’ultimo è stato messo alla prova principalmente in campo di immagini, ma durante l’I/O 2024 si è fatto riferimento in modo importante alla possibilità di utilizzare watermark per rendere identificabili contenuti testuali e video. È tramite un post pubblicato sul portale ufficiale di Google DeepMind che viene indicato l’obiettivo di contrastare disinformazione e phishing, identificando con SynthID i contenuti “di tutti i tipi” generati dall’IA.
Il sistema di watermark è dunque adesso pensato anche per applicare delle “modifiche impercettibili” a testi e video, inserendosi direttamente nel processo di generazione di questi ultimi. Nel caso del testo si va a operare sulla probabilità dei token (ovvero sulla scelta da parte dell’IA della prossima parola, parte di una frase o singolo carattere), mentre nel caso dei video SynthID opera fotogramma per fotogramma.
Per l’occasione, il sistema di watermarking è stato integrato nell’app di Gemini e nella relativa esperienza Web, nonché nel nuovo modello di generazione di video IA Veo. Certo, questi sistemi per rilevare l’IA non risultano ancora perfetti, ma sarà interessante seguire gli sviluppi in ambito di watermarking. Per maggiori dettagli tecnici, potete fare riferimento al link in fonte.