Creare deepfake non è mai stato così facile. Gli strumenti di intelligenza artificiale, infatti, sono sempre più sofisticati e accessibili al grande pubblico. Ciò significa che chiunque può creare video o registrazioni false senza particolare difficoltà. Tra le frodi più diffuse, quelle che utilizzano le voci di persone familiari sono particolarmente popolari. Più facili da realizzare, possono essere utilizzate per estorcere denaro imitando, ad esempio, i parenti della vittima.
Purtroppo, questi deepfake non si limitano alla sfera privata, ma si stanno facendo sempre più strada nel mondo del lavoro, nel tentativo di frodare i dipendenti dell'azienda o di danneggiare un collega.
Insegnante usa l'AI per incastrare il preside con un audio falso
Eric Eiswert, preside della Pikesville High School nel Maryland, negli Stati Uniti, è stato vittima di un deepfake audio all'inizio del 2024. Una registrazione audio in cui sembrava fare commenti razzisti e antisemiti ha iniziato a circolare sui social network, portando alla sua sospensione in attesa di indagini. La polizia, tuttavia, ha presto scoperto che il colpevole non era chi pensavano.
Billy Burke, capo del sindacato che rappresenta il preside accusato, ha suggerito che il messaggio potrebbe essere stato creato utilizzando l'intelligenza artificiale. Le autorità, seguendo questa pista, hanno notato che il messaggio presentava una serie di strane caratteristiche, come un tono di voce monotono, l'assenza di rumore di fondo e pause e tempi di respirazione innaturali. Dopo l'analisi di vari esperti e strumenti specializzati, si è scoperto che l'audio era stato effettivamente generato da zero.
Dazhon Darien, 31 anni, insegnante di educazione fisica e direttore sportivo della Pikesville High School al momento dell'incidente, è stato identificato come il colpevole. Aveva ottime ragioni per serbare rancore nei confronti del preside Eiswert, che stava conducendo un'indagine su di lui per aver sottratto parte dei fondi della scuola. Dazhon Darien è stato infine arrestato.
L'impatto dei deepfake e i pericoli dell'AI generativa
Mentre l'obiettivo di Dazhon Darien era quello di far licenziare il preside, l'intera scuola è stata messa sottosopra. Gli insegnanti, credendo che il messaggio fosse autentico, pensavano che la scuola nascondesse dispositivi di registrazione, mentre genitori e studenti hanno inondato il centralino di chiamate, impedendo a chi aveva bisogno di contattare la scuola di essere ascoltato. Eric Eiswert e Billy Burke hanno ricevuto un gran numero di chiamate e messaggi di odio in seguito ai commenti che il preside non aveva mai fatto.
Questa brutta storia dimostra che i timori sugli strumenti AI di sintesi vocale, non sono poi così infondati. Non a caso, OpenAI si sta rifiutando di rilasciare il suo strumento, che può creare deepfake con pochi secondi di registrazione. È fondamentale che la società sia consapevole di questi rischi e che vengano adottate misure per prevenire l'uso improprio di queste tecnologie.