Le app afterlife sono chat capaci di replicare le caratteristiche di nostri cari ormai scomparsi: riescono a parlare, scrivere e dialogare esattamente come loro. Ma le loro implicazioni sono controverse: "Occorre capire come normare, mitigare i rischi sociali e psicologici dell'immortalità digitale", dicono gli autori di uno studio dell'Università di Cambridge pubblicato sulla rivista Philosophy & Technology
ascolta articolo
Gli scenari distopici di Black Mirror sono diventati realtà. Tra le diverse profezie della serie tv che si sono avverate, l’ultima è quella delle app che ‘resuscitano’ i defunti attraverso le tecnologie dell’intelligenza artificiale generativa. Questi chatbot intelligenti con le sembianze e la voce di una persona deceduta sono diventati in Cina un vero e proprio business, apprezzato da chi affronta la difficoltà di quell’esperienza universale che è l’elaborazione del lutto. I maggiori rischi sono per la salute mentale e la privacy, soprattutto dei soggetti più fragili come minori e persone anziane. A sottolinearlo sono i ricercatori di uno studio dell’Università di Cambridge che ha analizzato potenzialità e pericoli delle app afterlife.
Le app per elaborare il lutto
All’epoca dell’IA generativa tutto è possibile, anche parlare con i defunti o partecipare al proprio funerale. A renderlo realtà sono dei chat bot intelligenti con le sembianze e la voce di una persona deceduta, in Cina su questi “defunti digitali” è nato un vero e proprio business, apprezzato da chi affronta la difficoltà di quell’esperienza universale che è l’elaborazione del lutto e criticato invece da chi intravede i rischi di questa applicazione dell’IA per la privacy e la salute mentale degli utenti.
La sperimentazione è in corso da diverso tempo e ha raggiunto la sua massima popolarità quando lo scorso gennaio il cantante taiwanese Bao Xiaobo ha “resuscitato” grazie all’IA la figlia di 22 anni, deceduta due anni fa, mostrando il suo clone digitale in un video pubblicato online. Per farlo, Bao ha utilizzato l’app XEva della Xiaoice e ha ottenuto un dottorato in innovazione dell’IA così da poter “sentire ancora la voce” della figlia.
Ma come funzionano questi chatbot? Dopo aver analizzato testi o registrazioni di un nostro caro estinto queste app sono in grado di parlare, scrivere e dialogare esattamente come loro. Tra le più recenti ci sono Project December e HereAfter, che pagando un abbonamento mensile garantiscono di poter mantenere vivo digitalmente un caro estinto. l metodo di partenza è quello dei programmi di apprendimento automatico dei modelli linguistici di grandi dimensioni (i cosiddetti large language model, LLM) che stanno alla base dei chatbot come ChatGPT, combinato poi con funzioni aggiuntive come la clonazione della voce (su cui anche OpenAI sta lavorando) e la creazione di un avatar in movimento. Il prezzo per questo tipo di ‘servizi’ è molto variabile: va dai 10 ai 1.400 euro.
Dalla manipolazione attraverso i sensi di colpa all'impossibilità di elaborare un lutto fino all'inserimento di annunci pubblicitari direttamente dall'aldilà: sono solo alcuni dei rischi concreti che si sono aperti con la nascita delle app afterlife. Ad analizzarne i rischi è lo studio pubblicato sulla rivista Philosophy & Technology da i ricercatori Tomasz Hollanek e Katarzyna Nowaczyk-Basińska dell'Università di Cambridge.
Nel loro articolo gli studiosi hanno provato a immaginare 3 possibili scenari di un futuro prossimo, rischi e contromisure. I più esposti saranno ovviamente minori e persone fragili. Per questo gli autori dello studio precisano poi che sarebbe opportuno fissare dei limiti d'età per l'utilizzo dei deadbot, dato che per i bambini che hanno perso un genitore questo sistema, sebbene magari positivo in una primissima fase, potrebbe creare confusione in merito alla presenza virtuale e impedire il processo di elaborazione del lutto. L'ultimo rischio paventato dagli autori riguarda i contratti a lungo termine. Se un genitore si impegna economicamente per un periodo di diversi anni, ma i destinatari decidono di non usufruirne, gli utenti potrebbero ricevere spam e messaggi come se provenissero dal parente deceduto. In generale, sottolineano gli studiosi, la conversazione con qualcuno che non è più tra noi, nonostante inizialmente possa portare a una sensazione di conforto, potrebbe rappresentare un peso emotivo schiacciante. "Il pericolo-sostengono gli studiosi- è quello di provocare enorme disagio in caso di 'persecuzioni' da parte della memoria dei propri cari. Il potenziale effetto psicologico-sottolineano- soprattutto in un momento gia' difficile, potrebbe essere devastante". L'analisi si conclude con un monito rivolto a tutti sui potenziali rischi di queste app: "Dobbiamo iniziare a pensare ora a come mitigare i rischi sociali e psicologici dell'immortalita' digitale - concludono gli scienziati - perché la tecnologia è già disponibile, non si tratta di un'eventualità associata a un futuro distante".