Microsoft ha presentato il suo più recente modello di intelligenza artificiale Phi-3 Mini, leggero e ottimizzato per girare su smartphone e altri dispositivi locali. Con 3,8 miliardi di parametri, è il primo di una serie di tre modelli più piccoli che l'azienda rilascerà a breve. L'obiettivo è semplice: offrire un'alternativa più economica ai modelli LLM basati su cloud, rendendo l'AI accessibile anche per le organizzazioni più piccole.
Secondo Microsoft, il nuovo modello supera il suo predecessore, Phi-2 Mini, tanto da essere al passo con modelli più grandi come Llama 2. In effetti, l'azienda sostiene che Phi-3 Mini sia in grado di fornire risposte vicine a quelle di modelli 10 volte più grandi.
L'innovazione di questo nuovo modello, spiega Microsoft, risiede nel set di dati per l'addestramento che, sebbene si basi su Phi-2, utilizza adesso "dati web pesantemente filtrati e dati sintetici". Il team si è ispirato ai libri per bambini che utilizzano un linguaggio più semplice per spiegare argomenti complessi, come evidenziato da The Verge.
Il modello leggero Phi-3 Mini di Microsoft è in grado di operare su smartphone, anche se non può ancora eguagliare i risultati dei modelli LLM basati su cloud. Tuttavia, Phi-3 Mini supera Phi-2 e altri modelli linguistici più piccoli, come Mistral, Gemma, Llama-3-In, in svariati compiti che vanno dalla matematica alla programmazione, fino anche ai test accademici. Allo stesso tempo, il sistema è in grado di funzionare su dispositivi mobili come gli smartphone, senza la necessità di una connessione internet.
La principale limitazione, ovviamente, riguarda l'ampiezza della "conoscenza fattuale" per via dimensioni ridotte del set di dati che utilizza. Questo rende Phi-3 Mini meno adatto al test "TriviaQA".
Nonostante queste limitazioni, il nuovo sistema consentirebbe alle aziende che non possono permettersi di accedere ai LLM basati su cloud di adottare l'AI, o almeno questo è quello che spera Microsoft.
Da notare che Phi-3 Mini è ora disponibile su Azure, Hugging Face e Ollama, mentre Microsoft prevede di rilasciare Phi-3 Small e Phi-3 Medium la prossima volta, con capacità significativamente maggiori, rispettivamente con 7 e 14 miliardi di parametri.