OpenAI ha lanciato l'API fine-tuning self-service per GPT-3.5 nell'agosto 2023 e da allora, sottolinea l'azienda, migliaia di organizzazioni hanno addestrato centinaia di migliaia di modelli utilizzando l'API.
Il fine-tuning può aiutare i modelli a comprendere a fondo i contenuti e ad aumentare le conoscenze e le capacità esistenti di un modello per un compito specifico. L'API di fine-tuning di OpenAI supporta anche un volume di esempi superiore a quello che può essere inserito in un singolo prompt, per ottenere risultati di qualità superiore riducendo al contempo i costi e la latenza.
Alcuni dei casi d'uso più comuni del fine-tuning sono l'addestramento di un modello per generare codice migliore in un particolare linguaggio di programmazione, per riassumere un testo in un formato specifico o per creare contenuti personalizzati in base al comportamento dell'utente.
Ora l'azienda ha annunciato l'introduzione di nuove funzionalità per dare agli sviluppatori un controllo ancora maggiore sui loro job di fine-tuning, tra cui:
- Creazione di checkpoint basati su epoch: Produzione automatica di un checkpoint completo per il modello ottimizzato durante ogni epoch di addestramento, che riduce la necessità di riqualificare successivamente, soprattutto nei casi di overfitting.
- Playground comparativo: Una nuova interfaccia utente Playground affiancata per confrontare la qualità e le prestazioni dei modelli, consentendo la valutazione umana dei risultati di più modelli o degli snapshot di fine-tuning rispetto a un singolo prompt.
- Integrazione con terze parti: Supporto per le integrazioni con piattaforme di terze parti (a partire da Weights and Biases questa settimana) per consentire agli sviluppatori di condividere dati dettagliati di fine-tuning con il resto del loro stack.
- Metriche di validazione complete: La possibilità di calcolare metriche come la perdita e l'accuratezza sull'intero set di dati di convalida invece che su un lotto campionato, fornendo una migliore comprensione della qualità del modello.
- Configurazione degli iperparametri: Possibilità di configurare gli iperparametri disponibili dalla Dashboard (anziché solo tramite API o SDK).
- Miglioramenti alla dashboard di fine tuning: Include la possibilità di configurare gli iperparametri, visualizzare metriche di addestramento più dettagliate e rieseguire job da configurazioni precedenti.
Al DevDay dello scorso novembre, OpenAI ha annunciato un programma Custom Models progettato per addestrare e ottimizzare i modelli per un dominio specifico, in collaborazione con un gruppo dedicato di ricercatori OpenAI. Da allora, l'azienda ha incontrato decine di clienti per valutare le loro esigenze di modelli personalizzati e ha evoluto il programma per massimizzare ulteriormente le prestazioni.
Ora OpenAI ha annunciato ufficialmente la sua offerta di fine-tuning assistito come parte del programma Custom Model. Il fine-tuning assistito è uno sforzo di collaborazione con i team tecnici di OpenAI per sfruttare tecniche che vanno oltre l'API di fine-tuning, come iperparametri aggiuntivi e vari metodi di parameter efficient fine-tuning (PEFT) su scala più ampia. È particolarmente utile – spiega l'azienda – per le organizzazioni che hanno bisogno di supporto per impostare pipeline di dati di addestramento efficienti, sistemi di valutazione e parametri e metodi personalizzati per massimizzare le prestazioni del modello per il loro caso d'uso o attività.
In alcuni casi, sottolinea OpenAI, le organizzazioni hanno bisogno di addestrare da zero un modello appositamente costruito che comprenda la loro attività, il loro settore o il loro dominio. I modelli addestrati in modo completamente personalizzato apportano nuove conoscenze da un dominio specifico modificando le fasi chiave del processo di training del modello con nuove tecniche di mid-training e post-training. Le organizzazioni che hanno successo con un modello completamente custom-trained hanno spesso grandi quantità di dati proprietari – milioni di esempi o miliardi di token – che vogliono utilizzare per insegnare al modello nuove conoscenze o comportamenti complessi e unici per casi d'uso altamente specifici.
OpenAI ritiene che in futuro la maggior parte delle organizzazioni svilupperà modelli custom in base al settore, all'azienda o al caso d'uso. Con una varietà di tecniche disponibili per costruire un modello personalizzato, le organizzazioni di tutte le dimensioni possono sviluppare modelli custom per ottenere un impatto più significativo e specifico dalle loro implementazioni di intelligenza artificiale. La chiave – secondo OpenAI – è definire chiaramente il caso d'uso, progettare e implementare sistemi di valutazione, scegliere le tecniche giuste e prepararsi a iterare nel tempo affinché il modello raggiunga prestazioni ottimali.
Con OpenAI, afferma l'azienda, la maggior parte delle organizzazioni può vedere rapidamente risultati significativi grazie all'API di fine-tuning self-service. Per tutte le organizzazioni che hanno bisogno di perfezionare i loro modelli o di inserire nel modello nuove conoscenze specifiche del dominio, i programmi di Custom Models possono essere d'aiuto.