Perché non dovremmo “resuscitare” i nostri cari: i rischi dei chatbot che vogliono farci parlare con i morti
Una volta si beveva il sangue dei caproni ora si scarica un chatbot. Da secoli cerchiamo di comunicare con i morti e ora l‘intelligenza artificiale potrebbe mettere sul piatto la resurrezione digitale. In altre parole si addestra un'IA con foto, audio, e qualche video per creare il clone virtuale, a quel puto bastano 10 dollari per chattare con i propri cari defunti. Sono stati già lanciati diversi chatbot, primi prototipi zoppicanti ma funzionanti. Non c'è al momento nessun vincolo legale eppure secondo gli esperti di etica i "deadbot" potrebbero causare danni psicologici e "perseguitare" gli utenti.
In modo ancestrale c'è sempre stato il timore di giocare con la morte, e con la resurrezione digitale sembra di superare un confine pericoloso. Tomasz Hollanek e Nowaczyk-Basińska, ricercatori ed esperti di etica presso l'Università di Cambridge, hanno sollevato nuovi interrogativi sull'aldilà digitale. "Gli utenti potrebbero usare i chabot per riportare in vita la nonna" spiegano nello studio. Non solo, i genitori con malattie terminali potrebbero creare versioni digitali da lasciare ai loro figli. "I rapidi progressi nell'intelligenza artificiale generativa mostrano che quasi chiunque abbia accesso a Internet e un po' di conoscenze di base può far rivivere una persona cara defunta", spiega Basińska. “Quest’area dell’intelligenza artificiale è un campo minato dal punto di vista etico. È importante dare priorità alla dignità del defunto e garantire che questa non venga lesa, ad esempio, da motivazioni finanziarie dei servizi digitali dell’aldilà”.
Per esempio, cosa succederebbe se la nonna cominciasse a consigliarti di comprare quella marca di cereali? Le aziende potrebbero utilizzare i chatbot per sponsorizzare prodotti, visto che non è ancora chiaro come vengono conservati e usati i dati necessari per creare i chatbot. Non solo, i morti virtuali potrebbero anche intaccare il normale processo di lutto, creando un cortocircuito cognitivo. "Nessun servizio di ricreazione può dimostrare che consentire ai bambini di interagire con i ‘deadbot' sia vantaggioso o, per lo meno, non danneggi questo gruppo vulnerabile", avverte lo studio. Per questo, secondo i ricercatori è fondamentale che le aziende siano trasparenti sul funzionamento dei chatbot.
I deadbot sono già una realtà
Da anni si lavora per creare i deadbot. Nel 2021, Joshua Barbeau aveva utilizzato GPT-3 per creare un chatbot in grado di replicare la voce della sua fidanzata morta. Lo stesso anno il sito di genealogia MyHeritage ha introdotto Deep Nostalgia, una funzionalità per creare video animati dei propri parenti usando un album di foto. "I risultati possono essere controversi è difficile rimanere indifferenti a questa tecnologia", aveva commentato all'epoca MyHeritage. “Questa funzionalità è pensata per un uso nostalgico, ovvero per riportare in vita gli amati antenati." Nel 2022, MyHeritage ha lanciato DeepStory, per permettere agli utenti di generare "video parlanti".
In Cina le pompe funebri utilizzando già foto, video, registrazioni vocali dei defunti per creare avatar che durante il funerale recitano qualche frase di commiato. Non solo, lo scorso gennaio il cantante taiwanese Bao Xiaobo ha “resuscitato” grazie all’IA la figlia di 22 anni, deceduta due anni fa, mostrando il suo clone digitale in un video pubblicato online.
I problemi etici legati alla resurrezione digitale
Rimangono aperte diverse questioni etiche. Per esempio: Chi possiede i dati di una persona dopo la sua morte? Qual è l’effetto psicologico sui parenti o amici? A cosa può servire un deadbot? Chi può disattivare definitivamente il bot? "Le persone potrebbero sviluppare forti legami emotivi con tali simulazioni, che li renderanno particolarmente vulnerabili alla manipolazione", ha spiegato Tomasz Hollanek, ricercatore dell'Università di Cambridge ed esperto di etica e tecnologia. Conversare con le versioni digitali dei nostri cari potrebbe anche prolungare il dolore e creare uno scollamento dalla realtà.
"Dovrebbero essere presi in considerazione metodi e persino rituali per mandare in pensione i deadbot in modo dignitoso. Ciò potrebbe significare una forma di funerale digitale". Non solo, i resti digitali di una persona dovrebbero essere trattati come "un'entità che possiede un valore intrinseco".
Secondo lo studio sono necessari paletti in grado di arginare qualsiasi deriva di un fenomeno che nasce controverso. "Sarà necessario garantire una trasparenza significativa dei servizi ricreativi attraverso dichiarazioni di non responsabilità sui rischi e sulle capacità dei deadbot, limitare l'accesso ai servizi ricreativi ai soli utenti adulti, e seguendo il principio del mutuo consenso sia dei donatori che dei destinatari dei dati nel prendere parte a progetti ricreativi."