Cosa sono i defunti digitali, le intelligenze artificiali per elaborare i nostri lutti
Finché morte non ci separi, o intelligenza artificiale ci riunisca. Nell'epoca dei programmi di intelligenza artificiale (IA) generativa a buon mercato, anche parlare con i defunti o partecipare al proprio funerale diventa possibile. Accade già in Cina, dove intorno ai cosiddetti "defunti digitali", chatbot intelligenti con le sembianze e la voce di una persona deceduta, è nato un business, apprezzato da chi affronta la difficoltà di quell'esperienza universale che è l'elaborazione del lutto e criticato invece da chi intravede i rischi di questa applicazione dell'IA per la privacy e la salute mentale degli utenti.
Come si crea (e quanto costa) un defunto digitale
"Per soli 52 yuan (6,75 euro) puoi tornare a parlare con la persona che hai perso". L'annuncio sulla piattaforma di e-commerce cinese Taobao si confonde tra le centinaia di offerte di questo tipo comparse negli ultimi mesi sul web della Repubblica popolare. Dall'altra parte dello schermo, una coppia che ha appena perso un figlio piccolo. Una donna il cui compagno è morto in un incidente stradale. Un giovane a cui manca la nonna.
Basta qualche fotografia, un paio di vocali dall'audio pulito e alcuni video per catturare le espressioni facciali della persona che si vuole "resuscitare" ed ecco che il modello algoritmico alimentato dall'IA presenta un avatar digitale con le sembianze del defunto. Un clone virtuale in grado di rispondere a semplici domande dando conforto a chi vi si rivolge e, nelle versioni più innovative e costose, di simulare i pattern di dialogo della persona che rappresenta e conservarne qualche ricordo.
Il metodo di partenza è quello dei programmi di apprendimento automatico dei modelli linguistici di grandi dimensioni (i cosiddetti large language model, LLM) che stanno alla base dei chatbot come ChatGPT, combinato poi con funzioni aggiuntive come la clonazione della voce (su cui anche OpenAI sta lavorando) e la creazione di un avatar in movimento, con prezzi che variano dai 10 ai 1.400 euro.
Chi offre questi servizi parla di "compagnia digitale", di "resurrezione dell'IA" e di "immortalità virtuale". Nulla di blasfemo secondo la tradizione cinese che, anche se fondamentalmente atea, riserva agli antenati e ai legami familiari un posto di primaria importanza e trova in questa applicazione tecnologica una sua deriva (non più così) fantascientifica. Un utilizzo simile dell'IA come supporto emotivo si era per altro già visto su Ernie Bot, la risposta di Pechino a ChatGPT, apprezzato dagli utenti proprio per le sue risposte empatiche e concilianti.
Come funziona il business dei cloni digitali
In Cina la sperimentazione sui defunti digitali è in corso da diverso tempo e ha raggiunto la sua massima popolarità quando lo scorso gennaio il cantante taiwanese Bao Xiaobo ha "resuscitato" grazie all'IA la figlia di 22 anni, deceduta due anni fa, mostrando il suo clone digitale in un video pubblicato online. Per farlo, Bao ha utilizzato l'app XEva della Xiaoice e ha ottenuto un dottorato in innovazione dell'IA così da poter "sentire ancora la voce" della figlia. A marzo invece, la società di IA SenseTime ha fatto notizia per avere affidato al clone digitale del suo defunto fondatore, Tang Xiao'ou, il discorso di apertura di una conferenza aziendale.
Ma la vera svolta nella diffusione dei defunti digitali si è verificata a inizio aprile, in occasione della Festa dei morti in Cina, la cosiddetta qingming jie, momento in cui la già digitalizzata festività (la tradizione di bruciare del denaro finto da "spedire" nell'aldilà è da anni ormai fatto tramite app su cellulare) si è arricchita di questo servizio aggiuntivo.
"Abbiamo aiutato oltre 600 famiglie e 'resuscitato' migliaia di persone", ha dichiarato a proposito il fondatore della start-up SuperBrain, leader in Cina nel segmento dei cloni di defunti, Zhang Zewei, sottolineando che "la tecnologia consente di creare un ponte tra la vita e la morte, tra lo spazio e il tempo". In merito al fiorente business dei defunti digitali nel Paese invece, Zhang ha detto di avere "intravisto l'opportunità di mercato nei diversi bisogni emotivi dei cittadini cinesi". Quello dei cloni digitali (vivi o morti che siano) è infatti un mercato in crescita, che secondo una stima della società di analisi di mercato IDC (International Data Corporation) raggiungerà in Cina oltre 1,5 miliardi di dollari entro il 2026.
Oltre a SuperBrain, anche la cinese Glow offre servizi di chatbot per l'elaborazione del lutto con voce campionata del defunto. L'azienda Fushouyuan invece, sta lavorando a un servizio per cui i morti potranno apparire sotto forma di avatar ai loro stessi funerali, mentre la taiwanese Memomark, permette di "resuscitare" in un metaverso dedicato i propri animali da compagnia deceduti e continuare a prendersi cura di loro.
Le implicazioni etiche dei defunti digitali, dal consenso alla salute mentale
Nonostante buona parte del pubblico cinese abbia accolto con favore questa applicazione estrema (e per tratti distopica) dell'IA, non sono mancate le critiche e i dubbi sulle implicazioni etiche dei defunti digitali. Il primo problema di questa tecnologia riguarda il consenso, un tema trasversale a tutte le innovazioni che producono deep fake con immagini altrui. Tra i defunti resuscitati dagli utenti cinesi nelle ultime settimane c'è stato, per esempio, anche il cantante e attore Qiao Renliang, morto suicida nel 2016 e comparso in un video su Douyin (versione originale di TikTok) mentre dice ai suoi fan di "non essersene mai andato".
L'episodio ha suscitato l'indignazione della famiglia di Qiao, che ha parlato di una "ferita ancora aperta" e di una "pratica di cattivo gusto". C'è poi il rischio psicologico legato alla rielaborazione del lutto. Come specificato nei termini d'utilizzo di SuperBrain, affidarsi ai chatbot per sostegno emotivo non equivale ad ottenere un vero supporto psicologico, e in un paio di occasioni l'azienda ha dovuto chiudere l'account di alcuni utenti che avevano trascorso troppe ore in conversazione con il clone digitale.
E proprio sul rischio di "dipendenza" si concentrano le preoccupazioni del governo cinese, che starebbe già pensando a una proposta di legge per limitare questa applicazione dell'IA. Secondo Zeng Yi, direttore generale del Centro per la governance e l'etica dell'IA dell'accademia cinese delle Scienze, avere rapporti con un rapporto digitale aumenta il "rischio di assuefazione" con un impatto "negativo sulla psiche che costituisce pericoli per la società".
Gli esperti cinesi rassicurano comunque che lo stato attuale dei defunti digitali è ancora rudimentale, qualcosa di più concettualmente simile al "restauro fotografico" e di "archivio" che alla creazione di un'entità con ricordi ed emozioni realistiche. E non è passato inosservato che, anche una volta raffinata, il finale dolceamaro di questa applicazione dell'IA non potrà essere dissimile a quanto già visto nella puntata di Black Mirror The Entire History of You dove dopo aver sperimentato la vita insieme al clone digitale del suo defunto compagno, la protagonista rinuncia al doppleganger perché "è solo l'eco" del suo amato, senza "tutta la tua storia".