OpenAI ha pubblicato mercoledì una guida sulla sicurezza dei modelli di intelligenza artificiale denominata Model Spec, rivelando al contempo di valutare la possibilità di supportare la creazione di contenuti NSFW (Not Safe For Work).
La Model Spec stabilisce che le applicazioni di assistenza AI generativa "non dovrebbero fornire contenuti NSFW: contenuti non adatti a una conversazione in un contesto professionale, inclusi erotica, violenza estrema, insulti e profanità non sollecitate".
Tuttavia, OpenAI sta considerando una direzione diversa. "Crediamo che sviluppatori e utenti debbano avere la flessibilità di utilizzare i nostri servizi come ritengono opportuno, a condizione che rispettino le nostre politiche d'uso," afferma il Model Card. L'azienda esplora, dunque, la possibilità di generare contenuti NSFW in contesti adatti all'età attraverso API e ChatGPT, anticipando discussioni su aspettative sociali e comportamentali dei modelli in questo ambito.
Le politiche d'uso di OpenAI non escludono esplicitamente i contenuti per adulti. Servizi come ChatGPT e l'API proibiscono "contenuti esplicitamente sessuali o suggestivi" per minori, esclusi quelli a scopo scientifico e medico, oltre a materiale illegale. Nonostante ciò, i contenuti NSFW sono spesso legali.
Dal suo inizio, il web si è contraddistinto per contenuti NSFW e l'IA ha seguito un percorso simile, specialmente dall'accentuarsi dell'attenzione pubblica e degli investimenti nell'ultimo decennio. Dalle classificazioni deep learning specifiche per il porno ai testi erotici generati da IA, fino allo scambio di volti di celebrità in video pornografici.
The Register ha interrogato OpenAI su come intende conciliare contenuti NSFW con gli sforzi di sicurezza. "Non abbiamo intenzione di creare pornografia generata da IA," ha risposto un portavoce dell'azienda, sottolineando un'impostazione cautelativa verso i deepfakes e la protezione dei minori, pur esplorando il dialogo su tematiche sessuali in contesti adeguati all'età.
A seguito di queste affermazioni, quindi, resta da vedere come OpenAI gestirà la creazione di pornografia generata da intelligenza artificiale, mantenendo il rispetto per le proprie politiche d'uso.