Andrej Karpathy, famoso ricercatore di intelligenza artificiale con un passato in OpenAI e Tesla, ha recentemente condiviso su Twitter una proposta spensierata: modificare i modelli linguistici di grandi dimensioni come ChatGPT per operare o essere trasmessi nello spazio, con l’obiettivo di comunicare con potenziali forme di vita extraterrestri. Il ricercatore ha precisato che si trattava solo di un’idea divertente, ma provenendo da una figura influente nel campo dell’IA, la sua proposta visionaria potrebbe ispirare altri ricercatori in futuro.
Karpathy vanta una carriera di tutto rispetto nel campo dell’intelligenza artificiale. Dopo aver conseguito un dottorato a Stanford sotto la guida dell’informatico Fei-Fei Li, è diventato uno dei membri fondatori di OpenAI e successivamente ha ricoperto il ruolo di direttore senior dell’AI presso Tesla. Recentemente, ha lavorato a un progetto chiamato “llm.c“, che implementa il processo di addestramento per l’LLM GPT-2 di OpenAI in puro linguaggio C, dimostrando che lavorare con gli LLM non richiede necessariamente ambienti di sviluppo complessi.
ChatGPT nello spazio…
Karpathy ha suggerito un piano in due fasi per portare gli LLM come ChatGPT nello spazio. Nella prima fase, il codice degli LLM verrebbe adattato per soddisfare rigorosi standard di sicurezza, simili a quelli adottati dalla NASA per i software destinati allo spazio. Questa parte è stata ritenuta seria, poiché il codice di Karpathy, llm.c, è stato progettato all’insegna della semplicità e della prevedibilità, caratteristiche essenziali per il software spaziale.
Nella seconda fase, una volta ritenuto sicuro per le condizioni spaziali, questo LLM potrebbe teoricamente essere utilizzato come ambasciatore dell’intelligenza artificiale nello spazio, analogamente a iniziative storiche come il messaggio di Arecibo del ’74 e il Golden Voyager Record. L’idea è quella di impacchettare i parametri appresi dal modello in un file binario che potrebbe poi “svegliarsi” e interagire con qualsiasi potenziale tecnologia aliena in grado di decifrarlo.
Karpathy non è il primo a suggerire di mandare gli LLM nello spazio. Nel dicembre 2022, il professore di robotica Josh Bongard ha twittato un’idea per un romanzo di fantascienza in cui ChatGPT viene inviato nello spazio per permettere agli extraterrestri di conoscere l’umanità. Anche lo sviluppatore di software Lee Mallon ha immaginato uno scenario simile, in cui un modello di linguaggio di grandi dimensioni nello spazio profondo potrebbe condividere con altre civiltà la cultura, la gentilezza e i progressi tecnologici dell’umanità.
Ma è una buona idea?
L’idea di trasmettere o lanciare un LLM nello spazio solleva interessanti questioni di sicurezza e di etica. L’invio di messaggi a civiltà aliene è stato in passato un argomento controverso per alcuni. I critici di solito sostengono che trasmettere deliberatamente la nostra presenza e le nostre capacità tecnologiche a civiltà aliene sconosciute potrebbe potenzialmente attirare l’attenzione indesiderata di entità ostili. Questo potrebbe mettere a rischio il nostro pianeta o la nostra specie.
Lo stesso Karpathy è consapevole dei rischi. “Assolutamente sì, ci sono grossi problemi di sicurezza. Vedi il Problema dei tre corpi“, ha dichiarato ad Ars Technica riferendosi al famoso romanzo del 2008 di Liu Cixin in cui una civiltà extraterrestre intercetta un messaggio dalla Terra e successivamente lancia un’invasione.
Un altro rischio, oltre a quello di un’invasione ostile, è che gli alieni riceventi possano farsi un’idea sbagliata di noi, se l’LLM è stato formato su un ampio spettro della cultura umana.
Nel suo post sul blog, Lee Mallon ha scritto: “Mentre conversano attraverso le profondità della nostra conoscenza digitale, si imbatteranno anche nei capitoli più oscuri della nostra storia. Scoprirebbero la nostra attitudine alla guerra, la nostra avidità e i molti strumenti distruttivi che abbiamo creato. Questo potrebbe dipingere un quadro spaventoso, facendoci apparire come potenziali minacce. Potrebbero iniziare a chiedersi se darci una chiamata cosmica sia una buona idea o una ricetta per il disastro o se dobbiamo essere rimossi del tutto dalla scacchiera“.
Ma anche se addestrassimo l’LLM solo sulle qualità migliori dell’umanità, potrebbe non essere il miglior diplomatico interstellare a causa degli inconvenienti tecnici e delle difficoltà di primo contatto.