Le aziende tecnologiche sostengono che i sistemi di AI ci faranno progredire. Ma il costo per la nostra umanità potrebbe non valere il rischio. [Sage Cammers-Goodwin e Rosalie Waelen]
L'ultimo sistema di OpenAI, Sora, crea video sulla base di richieste di testo. Si scrive una richiesta e Sora fa il resto. Il risultato: video altamente fotorealistici e animazioni accattivanti. Dai mammut che attraversano un prato innevato a un mercato pieno di gente a Lagos, in Nigeria, nell'anno 2056. Niente sembra troppo selvaggio per l'immaginazione di Sora.
Sora non è ancora disponibile per il grande pubblico, perché OpenAI sta prima lasciando che i "red teamers" valutino il prodotto per quanto riguarda il suo potenziale di abuso. OpenAI ha anche chiesto ai professionisti della creatività un feedback su come Sora possa essere utile per loro, inquadrando Sora come uno strumento che potrebbe migliorare la loro produzione.
Allo stesso tempo, però, tecnologie come Sora potrebbero rendere irrilevanti molti creativi. Proprio il mese scorso, il famoso regista e produttore Tyler Perry ha interrotto l'espansione di uno studio da 800 milioni di dollari dopo aver visto le potenzialità di Sora. Il sistema avrebbe eliminato la necessità di costruire set o di viaggiare per girare sul posto. "Posso stare seduto in un ufficio e fare tutto questo con un computer, il che è sconvolgente per me", ha dichiarato a The Hollywood Reporter.
Non deve sorprendere che i progressi dell'IA abbiano suscitato dibattiti sul futuro del lavoro e preoccupazioni per la disinformazione, i pregiudizi e le violazioni del copyright. In risposta alle ripercussioni, le aziende tecnologiche hanno (virtualmente) segnalato l'attenzione per questi problemi, sottolineando l'importanza dell'IA etica, dell'IA responsabile o dell'IA degna di fiducia e sviluppando linee guida per questi nobili obiettivi. In effetti, il sito web di OpenAI include la dichiarazione che, nonostante i test approfonditi, non è in grado di prevedere tutti i possibili benefici e danni della sua tecnologia e che (ironia della sorte) è fondamentale rilasciare l'IA (potenzialmente dannosa) nel mondo reale per aumentare la sicurezza dell'IA nel tempo.
Anche i politici stanno discutendo attivamente su come regolamentare l'IA per prevenire o, almeno, limitare i problemi sopra citati. All'inizio di questo mese, infatti, l'UE ha approvato la storica legge sull'IA, che include divieti e restrizioni relativi ai sistemi di identificazione biometrica, agli usi manipolativi dell'IA e all'intelligenza artificiale generale (AGI, o IA con un'intelligenza di livello umano o superiore e la capacità di auto-apprendimento).
Sebbene l'attenzione diffusa per l'etica dell'IA sia da lodare, essa sta distogliendo l'attenzione da una questione più profonda. Concentrarsi sui modi per regolare e migliorare l'IA conferma una narrazione tecno-deterministica, che non mette in discussione la desiderabilità generale dei progressi tecnologici e presuppone che l'IA e l'AGI siano inevitabili. Tuttavia, noi come società dobbiamo chiederci se i sistemi di IA generativa come Sora portino davvero al progresso e se questi sistemi debbano essere accolti in primo luogo.
OpenAI sostiene di "garantire che l'IA vada a beneficio di tutta l'umanità", ma in realtà minaccia il concetto stesso di umanità. Siamo ben oltre le IA che ci battono a scacchi e a Go, che ottimizzano i prezzi e che riconoscono i volti. Sebbene questi precedenti traguardi siano stati impressionanti, scioccanti e forse persino avvilenti per chi ha un forte senso di superiorità umana, quella tecnologia si limitava ad automatizzare compiti di routine e basati su regole. Ora, mentre le nostre preoccupazioni preventive sulla superintelligenza si sono lentamente attenuate, l'intelligenza artificiale ha iniziato a padroneggiare un regno che molti hanno pensato fosse esclusivamente umano: il regno della creatività e dell'immaginazione.
Creatività e immaginazione sono fenomeni correlati ma diversi. Creare o essere creativi significa materializzare una visione o un'idea in un dipinto, un film, una canzone e così via. Immaginare va oltre. L'immaginazione richiede la capacità di sviluppare quella visione, di vedere ciò che non si è ancora manifestato. Sora colma le lacune dei nostri suggerimenti. Il modello non solo comprende i suggerimenti (un punto che OpenAI sottolinea ripetutamente sul sito di Sora), ma immagina anche come potrebbero e dovrebbero essere le scene descritte. Certo, questa immaginazione si basa sui dati di addestramento, ma anche la nostra.
Per gli esseri umani, l'immaginazione richiede tempo e spazio per svilupparsi. Ma nella nostra società capitalista, che determina il nostro valore in base alla produttività e al volume, agli artisti viene detto che l'IA sarà utile perché permetterà loro di creare più contenuti e di lavorare più velocemente. Queste promesse di produttività rendono più facile per le persone trascurare il fatto che i sistemi intelligenti guidati dalle IA sono sulla buona strada per avere capacità pari o superiori a quelle degli esseri umani. L'immaginazione dell'IA diventerà probabilmente più grandiosa negli anni a venire.
Non dobbiamo lasciare che la promessa di produttività o i dibattiti ristretti sulle implicazioni etiche dell'IA ci distraggano dal quadro generale. Con il pretesto di migliorare l'umanità aumentando la produttività, rischiamo di liberare il nostro sostituto definitivo.
Non dobbiamo sopravvalutare la durata delle capacità umane di fronte ai progressi tecnologici. Le calcolatrici hanno ridotto la necessità di fare calcoli mentali. Il GPS ha limitato l'esplorazione indipendente e la navigazione sulle mappe. Anche se alcuni potrebbero essere contenti di lasciar perdere queste abilità, ci deve essere un limite alle qualità che siamo disposti a esternalizzare.
Date le attuali competenze e capacità di immaginazione dell'IA, sembra plausibile che l'IA non farà progredire l'umanità, come sostiene OpenAI, ma la minaccerà, dequalificandoci e rendendo superflue le nostre caratteristiche uniche. Ecco perché è giunto il momento di discutere non solo delle implicazioni etiche, come le violazioni del copyright e i pregiudizi degli algoritmi, ma anche di cosa significhi per l'umanità la capacità di immaginare dell'IA. Cosa significa essere umani quando le nostre abilità e caratteristiche distintive non sono più uniche?
È inoltre fondamentale non lasciarsi fuorviare da narrazioni su come ChatGPT e Sora salveranno l'umanità rendendoci più produttivi nel lavoro e nella vita di tutti i giorni, quando probabilmente aumenteranno soprattutto i guadagni dell'1%. In definitiva, con il continuo sviluppo dell'intelligenza artificiale, potremmo rimanere privi di competenze, privi di ispirazione e dipendenti dal nostro sostituto. A quel punto, sarà troppo tardi per chiedersi se la costruzione dell'IA sia valsa la perdita della nostra umanità.
Sage Cammers-Goodwin è ricercatrice di filosofia della tecnologia presso l'Università di Twente. I suoi interessi e le sue competenze spaziano dalla responsabilità sociale delle imprese alle città intelligenti e alle tecnologie emergenti, compresa l'intelligenza artificiale. Le sue pubblicazioni appaiono su diverse piattaforme, tra cui la Oxford University Press.
Rosalie Waelen lavora attualmente presso il Sustainable AI Lab, che fa parte dell'Institute for Science and Ethics dell'Università di Bonn, in Germania. Rosalie ha già pubblicato sull'importanza delle prospettive teoriche critiche nel dibattito sull'IA e sulle questioni etiche e sociali legate alle applicazioni di computer vision.