Netflix è stata accusata di utilizzare immagini manipolate dall'intelligenza artificiale nel documentario true crime What Jennifer Did - Il caso Jennifer Pan. La storia (raccapricciante) ruota attorno a Jennifer Pan, condannata per un attacco omicida ai danni dei suoi genitori. Dopo circa 28 minuti dall'inizio del documentario, Nam Nguyen, compagno di scuola di Jennifer, la descrive come una persona "vivace, felice, sicura di sé e molto genuina". Le sue parole sono accompagnate da una serie di foto.
Ma ad un esame più attento delle immagini si notano segni di manipolazione; un'immagine in particolare mostra la ragazza mentre fa il segno della vittoria con le dita appare palesemente ritoccata fornendo la prova che almeno parte dell'immagine è stata generata dall'intelligenza artificiale.
Nella mano sinistra di Pan, sembra che abbia solo due dita; mancano un pollice, un mignolo e un anulare. Alla mano destra manca il mignolo e il pollice appare innaturalmente lungo e sconnesso. I generatori di immagini basati sull'intelligenza artificiale notoriamente hanno difficoltà a realizzare immagini di mani umane. Anche due altre fotografie che mostrano la giovane con indosso un abito rosso mostrano artefatti dell'IA.
Netflix ha usato foto manipolate con l'AI nel suo documentario?
Qui trovate la recensione dei documentario What Jennifer Did - Il caso Jennifer Pan, su Netflix dal 10 aprile. Difficile stabilire con esattezza cosa sia successo durante il processo di editing, ma è possibile che i produttori abbiano realizzato più foto da un'unica immagine.
Qualsiasi tipo di manipolazione delle foto di un documentario true crime è controversa perché una storia, soprattutto una così delicata come quella di Jennifer Pan, dovrebbe essere raccontata in modo veritiero anche attraverso le immagini.
"Il ricorso alla tecnologia per generare immagini di una persona reale, soprattutto di qualcuno che è ancora in prigione e avrà diritto alla libertà condizionale solo intorno al 2040, dovrebbe far scattare qualche campanello d'allarme", scrive Futurism.