Lo scorso martedì OpenAI ha annunciato di aver iniziato l'addestramento di un nuovo modello di intelligenza artificiale. Si tratta del successore di GPT-4, attuale LLM di punta che guida il popolare chatbot online, ChatGPT. Si prevede che questo nuovo modello porterà grandi progressi nelle capacità di intelligenza artificiale e spingerà l’azienda ulteriormente nel suo percorso verso il raggiungimento dell’intelligenza artificiale generale (AGI), ovvero una macchina che può fare tutto ciò che può fare il cervello umano. Ad oggi, la startup di San Francisco non ha indicato un nome preciso per tale modello, ma si pensa possa essere semplicemente GPT-5. Tale LLM dovrebbe usato come motore AI per vari prodotti, come chatbot, assistenti digitali simili a Siri, motori di ricerca e generatori di immagini. OpenAI ha infine aggiunto che è comunque necessario “un dibattito approfondito in questo momento importante” su come mantenere i sistemi sicuri da usare.
OpenAI forma un nuovo Comitato per la sicurezza e la protezione
Oltre all’arrivo del nuovo LLM, OpenAI ha annunciato che il Consiglio di amministrazione ha formato un nuovo Comitato per la sicurezza e la protezione. Questo avrà il compito di esaminare le procedure di sicurezza della società in relazione allo sviluppo dei prodotti. In un post sul blog, l’azienda ha affermato che il CEO Sam Altman farà parte del comitato. Gli altri membri saranno: Bret Taylor, Adam D'Angelo e Nicole Seligman, il chief scientist, Jakub Pachocki, e il capo della sicurezza, Matt Knight. Il comitato contatterà anche altri esperti esterni in materia di sicurezza e protezione che fungeranno da propri consulenti.
La startup di San Francisco rilasciato alcuni dettagli sul funzionamento del Comitato. Nel suo blog ha spiegato che “un primo compito del Comitato per la sicurezza e la protezione sarà quello di valutare e sviluppare ulteriormente i processi e le misure di salvaguardia di OpenAI nei prossimi 90 giorni. Al termine dei 90 giorni, il Comitato per la sicurezza e la protezione condividerà le proprie raccomandazioni con l’intero Consiglio. A seguito della revisione completa del Consiglio, OpenAI condividerà pubblicamente un aggiornamento sulle raccomandazioni adottate in modo coerente con la sicurezza”. Il nuovo Comitato è stato formato subito dopo la notizia secondo cui OpenAI avrebbe chiuso il suo team di superallineamento all'inizio di maggio. Il team era stato precedentemente formato per trovare un modo per fare sì che gli umani avessero sempre il controllo dell’AI. Il rischio è infatti quello che le macchine possano un giorno diventare più intelligenti dell’uomo.