In un momento cruciale per lo sviluppo delle tecnologie legate all'intelligenza artificiale, OpenAI ha deciso di rafforzare il proprio impegno verso la sicurezza annunciando la creazione di un nuovo Comitato per la Sicurezza e la Protezione. Presieduto da Bret Taylor e composto da figure di spicco come Adam D'Angelo, Nicole Seligman e il CEO Sam Altman, il comitato avrà il compito di formulare raccomandazioni su decisioni critiche riguardanti la sicurezza e la protezione dei progetti di OpenAI.
Un Impegno verso la sicurezza
Con l'obiettivo di affrontare e anticipare le sfide legate alla sicurezza nell'ambito dell'intelligenza artificiale generativa e degli sviluppi verso l'intelligenza generale artificiale (AGI), il comitato opererà in stretta collaborazione con esperti tecnici e politici di OpenAI. Tra questi, Aleksander Madry, Head of Preparedness, Lilian Weng, Head of Safety Systems, John Schulman, Head of Alignment Science, Matt Knight, Head of Security, e Jakub Pachocki, Chief Scientist.
Il primo compito del Comitato sarà quello di valutare e sviluppare ulteriormente i processi e le salvaguardie di OpenAI nei prossimi 90 giorni. Al termine di questo periodo, il Comitato condividerà le sue raccomandazioni con il consiglio direttivo completo. Successivamente, OpenAI renderà pubblico un aggiornamento sulle raccomandazioni adottate, mantenendo un approccio coerente con gli standard di sicurezza e protezione.
Collaborazioni esterne
Per supportare questo lavoro, OpenAI ha inoltre deciso di avvalersi della consulenza di esperti esterni in materia di sicurezza, sicurezza informatica e tecnica. Tra questi, Rob Joyce, ex funzionario di sicurezza informatica che ora fornisce consulenza su questioni di sicurezza a OpenAI, e John Carlin, altro consulente di spicco.
Con la crescente complessità dei modelli AI e l'accelerazione verso l'AGI, la necessità di una discussione approfondita e di misure precauzionali è più urgente che mai. L'istituzione del Comitato per la Sicurezza e la Protezione rappresenta un passo significativo in questa direzione, assegnando a esperti riconosciuti il compito di guidare e consigliare la società nelle sue strategie di sicurezza.