Qualcomm Technologies, Inc. e Meta hanno annunciato una collaborazione per ottimizzare l'esecuzione dei modelli linguistici di grandi dimensioni (LLM) di Meta Llama 3 direttamente su smartphone, PC, cuffie VR/AR, veicoli e non solo. In particolare, la possibilità di eseguire Llama 3 sui dispositivi offre maggiore reattività, maggiore privacy, maggiore affidabilità ed esperienze ancora più personalizzate.
Meta Llama 3 sui dispositivi dotati di Snapdragon
Come abbiamo visto, Meta ha presentato i primi due modelli di Llama 3, per una nuova generazione di modelli linguistici preaddestrati e ottimizzati con una maggiore versatilità; i nuovi modelli risultano dotati di migliori capacità di ragionamento, generazione di codici e ascolto delle istruzioni.
Qualcomm e Meta sono impegnate a promuovere l'innovazione e a fornire esperienze di intelligenza artificiale di nuova generazione, e la nuova collaborazione punta a democratizzare l'accesso alle capacità di IA generativa, consentendo ai vari produttori di smartphone (e non solo) e agli sviluppatori di rendere accessibile Llama 3 sui dispositivi delle prossime piattaforme di punta Snapdragon.
"Celebriamo l'approccio aperto di Meta con Meta Llama 3, e condividiamo il suo impegno per potenziare gli sviluppatori e stimolare l'innovazione dell'IA", ha dichiarato Durga Malladi, Senior Vice President e General Manager of Technology, Planning and Edge Solutions, Qualcomm Technologies, Inc. "La nostra leadership nell'IA on-device, unita alla nostra vasta portata su diversi dispositivi edge, ci permette di espandere i vantaggi dell'ecosistema Llama in tutto il mondo e di consentire a clienti, partner e sviluppatori di creare una nuova generazione di esperienze di IA rivoluzionarie".
Lo sfruttamento della potente architettura di computing eterogeneo di Qualcomm Technologies, che può contare su alcune delle CPU, delle GPU e delle NPU leader del settore in combinazione a un'architettura di memoria all'avanguardia, permetterà a clienti, partner e sviluppatori di massimizzare le prestazioni, l'efficienza termica ed energetica; gli sviluppatori potranno infatti avere accesso alle risorse e agli strumenti per eseguire Llama 3 sulle piattaforme Snapdragon attraverso Qualcomm AI Hub, che allo stato attuale offre circa 100 modelli IA ottimizzati. Quest'ultimo riduce il time-to-market e sblocca i vantaggi dell'intelligenza artificiale on-device per le applicazioni.