Con l'Intelligenza artificiale "l'ordine sociale potrebbe collassare". L'allarme proviene dal Giappone dove due tra le principali aziende del paese, la compagnia di telecomunicazioni NTT (Nippon Telegraph and Telephone) e il principale quotidiano, lo Yomiuri Shimbun, hanno emesso un manifesto chiedendo nuove leggi per limitare l'IA generativa.
"L'IA generativa deve essere controllata sia tecnologicamente che legalmente. Se l'IA generativa viene lasciata incontrollata, la fiducia nella società nel suo complesso potrebbe essere danneggiata poiché le persone diventano diffidenti l'una dell'altra e si perdono gli incentivi per garantire l'autenticità e la fiducia. C'è il timore che, nel peggiore dei casi, la democrazia e l'ordine sociale potrebbero collassare, provocando guerre" si legge nel documento.
Il manifesto, presentato dalle due aziende sottolinea l'urgenza per il Giappone di adottare misure contro l'abuso dell'IA generativa, inclusa l'implementazione di leggi per proteggere le elezioni e la sicurezza nazionale. Le aziende hanno dichiarato che la motivazione dietro il manifesto è la preoccupazione per il discorso pubblico. Entrambe sono tra le società più influenti del Giappone, con NTT ancora parzialmente di proprietà governativa.
L'essere umano è facilmente ingannabile
Le due aziende affermano che l'essere umano non può controllare completamente questa tecnologia, in quanto gli umani sono "facilmente ingannabili". Il documento sostiene che il design dei sistemi di IA che mirano a catturare l'attenzione degli utenti è dannoso, danneggiando i valori essenziali come l'autonomia e la dignità che consentono alle persone nella società di essere libere. Le sfide comprendono allucinazioni, pregiudizi e tossicità, oltre alla difficoltà di valutare i prodotti creati. Il giornalismo e la ricerca accademica hanno tradizionalmente fornito informazioni accurate, sostenuti da incentivi che garantiscono autenticità e fiducia, ma tali incentivi potrebbero essere minacciati.
La proposta esprime preoccupazione per l'impiego dell'IA nelle scuole, soprattutto per gli studenti più giovani che "potrebbero non avere ancora sviluppato pienamente l'abilità di prendere decisioni adeguate".
IA già indispensabile per la società
Nonostante il rapporto abbia mostrato cautela riguardo agli svantaggi dell'IA, non è stato completamente pessimistico riguardo alla tecnologia nel suo complesso. Le due aziende hanno affermato che l'IA è già essenziale per la società e che scartare la tecnologia a causa di problematiche legate all'IA generativa potrebbe causare una "diminuzione della produttività umana".
"La tecnologia dell'IA è già indispensabile per la società. Se la tecnologia dell'IA viene scartata in toto come non affidabile a causa dell'IA generativa fuori controllo, la produttività dell'umanità potrebbe diminuire. Basandosi sui punti esposti nelle sezioni seguenti, è necessario realizzare misure per bilanciare il controllo e l'uso dell'IA generativa sia dal punto di vista tecnologico che istituzionale, e rendere la tecnologia uno strumento adeguato per la società".
Tre punti fondamentali
Sono tre i punti principali affrontati dal manifesto:
- Affrontare il rapporto fuori controllo tra IA ed economia dell'attenzione: si evidenzia come l'eccessiva consapevolezza dei computer sugli individui porti a spazi informativi poco solidi e danneggi la dignità individuale. Si teme che l'instabilità dell'IA generativa possa esacerbare questi problemi, minacciando l'autonomia e la dignità umane.
- Introdurre restrizioni legali per proteggere la libertà e la dignità nelle discussioni e affrontare i problemi correlati all'IA generativa. Si sottolinea l'importanza di mantenere spazi di discussione liberi da influenze dannose e di regolamentare l'uso dell'IA generativa, specialmente nelle elezioni e nella sicurezza, per prevenire danni irreversibili alla società.
- Stabilire una governance efficace, inclusa la legislazione, per affrontare le sfide dell'era dell'IA generativa. Si discute della necessità di sviluppare una politica dati strategica e sistematica nel lungo termine, insieme a regolamentazioni flessibili nel breve termine. Si propone un approccio co-regolatorio per identificare gli interessati e si sottolinea l'importanza di proteggere la libertà, la dignità e gli interessi nazionali nell'implementare tali regolamentazioni.
Le prospettive future
Le prospettive future sull'IA generativa indicano che, sebbene la tecnologia sia al di là del completo controllo umano, è destinata a progredire attraverso un'innovazione che accompagnerà la sua diffusione sociale. Il manifesto evidenzia l'urgente necessità di adottare misure per garantire un ambiente di discussione sano, fondamentale per la sicurezza umana e sociale, inclusa la democrazia. Servono quindi "leggi rigide per istituire zone di utilizzo dell'IA generativa, con particolare attenzione alle elezioni e alla sicurezza". È inoltre fondamentale ottimizzare la legislazione sul copyright per mantenere l'equilibrio tra l'utilizzo dell'IA generativa e la protezione dell'ecosistema, considerando sia gli aspetti istituzionali che tecnologici.
Visto, però, che la revisione delle leggi richiederà tempo, il manifesto suggerisce l'introduzione di regole e regolamenti congiunti da parte dei media e delle industrie, insieme all'adozione e alla diffusione di tecnologie efficaci. Nel processo di revisione, è prioritario proteggere la dignità e la libertà individuali per garantire l'autonomia individuale, tenendo conto delle valutazioni critiche basate sui valori comunitari.
Il quotidiano Yomiuri Shimbun e la Nippon Telegraph and Telephone Corporation "hanno condiviso tale comprensione e si impegnano a continuare a studiare il problema e a formulare raccomandazioni".
IA: Microsoft investe 3 miliardi in Giappone
Intanto, anche in Giappone non si smette di investire nell'intelligenza artificiale. Microsoft ha, infatti, annunciato un investimento di 2,9 miliardi di dollari nei prossimi due anni nel paese per potenziarne lo sviluppo, dato che Tokyo, attualmente, è in ritardo in questo settore. Una decisione presa durante la visita di Stato del Primo Ministro giapponese Fumio Kishida a Washington, durante la quale ha sottolineato l'obiettivo del Giappone di diventare una potenza nell'IA.
"È il più grande investimento che Microsoft abbia fatto in Giappone nei suoi 46 anni di storia", ha dichiarato Brad Smith, presidente di Microsoft. L'accordo prevede di fornire risorse informatiche avanzate, come chip GPU per l'addestramento dei modelli di intelligenza artificiale, e di potenziare l'infrastruttura cloud della società nel Paese. Inoltre, Microsoft si impegna a investire nella formazione sull'IA di tre milioni di lavoratori giapponesi nei prossimi tre anni e ad aprire il suo primo laboratorio a Tokyo, Microsoft Research Asia, focalizzato sull'IA e la robotica.