Gli vietano di usare l'IA per 5 anni: "Ha prodotto più di mille immagini pedopornografiche"
L'intelligenza artificiale è diventata una fabbrica per la produzione di contenuti illegali, aggirare i sistemi è semplice, basta un prompt per generare immagini pedopornografiche. Anthony Dover, 48 anni, ne ha create più di mille. Per questo un tribunale del Regno Unito ha vietato all'uomo l'uso di qualsiasi "strumento di creazione di intelligenza artificiale". Per i prossimi cinque anni, "non potrà utilizzare, visitare o accedere" a strumenti di generazione IA senza il permesso della polizia.
Il possesso e la creazione di immagini pedopornografiche era già illegale negli anni '90, ora, con l'introduzione dei software IA, il sistema giudiziario deve correre per stare al passo, e il caso Dover potrebbe diventare un precedente importante per monitorare chi è stato condannato per la produzione o la condivisione di immagini pedopornografiche.
Un portavoce del Crown Prosecution Service (istituzione statale inglese che funge da pubblico ministero nei procedimenti penali), ha dichiarato: "Laddove percepiamo che esiste un rischio continuo per la sicurezza dei bambini, chiederemo alla corte di imporre condizioni, che potrebbero comportare il divieto dell'uso di determinate tecnologie".
Non basta però punire i trasgressori, per evitare la produzione e la condivisione di immagini pedopornografiche le aziende tecnologiche dovranno impedire la produzione di contenuti illegali.
Un fenomeno in crescita
Come ha spiegato la Internet Watch Foundation (IWF) il caso è un campanello d'allarme, sempre più utenti stanno infatti sfruttando l'IA per generare immagini illegali. "Stiamo assistendo a un aumento lento ma continuo di casi simili, e il materiale creato è altamente realistico", ha spiegato Susie Hargreaves, amministratrice delegata dell'organizzazione benefica. "Speriamo che l'accusa invii un forte messaggio a coloro che creano e distribuiscono questo tipo di contenuti."
L'anno scorso, l'IWF ha trovato 2.562 immagini illegali create con l'intelligenza artificiale. La Lucy Faithfull Foundation (LFF), che gestisce la linea di assistenza per Stop It Now, ha raccontato al Guardian di aver ricevuto numerose chiamate per segnalare i contenuti pornografici generati dall'IA, "è un tendenza preoccupante che cresce rapidamente".
La nuova legge contro i deepfake
Il Ministero della Giustizia inglese il 16 aprile ha dichiarato che la creazione di deepfake sessualmente espliciti verrà considerata un reato ai sensi di una nuova legge. "Chiunque creerà immagini esplicite senza consenso dovrà affrontare precedenti penali e una multa illimitata". Non solo, "se l'immagine venisse poi condivisa, i trasgressori potrebbero essere puniti con la reclusione", ha dichiarato il Ministero.
La legislazione esistente vieta solo la condivisione di deepfake, non la produzione. La nuova norma, che verrà applicata in Galles e in Inghilterra punirà chiunque realizzi questa tipologia di immagini.