Qualcomm Technologies e Meta continuano a collaborare e hanno annunciato una nuova partnership per ottimizzare l'esecuzione dei modelli linguistici di grandi dimensioni (LLM) di Meta – Llama 3 – direttamente su smartphone, PC, cuffie VR/AR, veicoli e altro ancora.
La possibilità di eseguire Llama 3 sui dispositivi offre vantaggi come ad esempio la maggiore reattività, una maggiore privacy, una maggiore affidabilità e la possibilità di offrire esperienze più personalizzate agli utenti.
La collaborazione è presentata come mirata "a democratizzare l'accesso alle capacità di IA generativa" consentendo agli OEM e agli sviluppatori di rendere accessibile Llama 3 sui dispositivi dotati delle prossime piattaforme di punta Snapdragon.
L'utilizzo dell'architettura di computing eterogeneo di Qualcomm Technologies, che sfrutta senza soluzione di continuità CPU, GPU e NPU, promette di massimizzare le prestazioni delle applicazioni, l'efficienza termica e la durata della batteria.
Gli sviluppatori potranno accedere a risorse e strumenti per eseguire Llama 3 sulle piattaforme Snapdragon attraverso Qualcomm AI Hub, che attualmente offre circa 100 modelli IA ottimizzati. Il Qualcomm AI Hub riduce il time-to-market per gli sviluppatori con i conseguenti vantaggi dell'IA su dispositivo per le loro applicazioni.
Qualcomm Technologies e Meta affermano di essere impegnate a promuovere l'innovazione e a fornire esperienze di IA di nuova generazione. Llama 3 (qui i dettagli) è un modello di intelligenza artificiale presentato come "il più potente" in ambito open source, potenzialmente in grado di offrire miglirorie rispetto modelli AI chiusi (closed source) quali GPT-4 di OpenAI e Gemini di Google. Nei prossimi mesi sono previste diverse varianti di questi modelli, accelerando lo sviluppo delle AI.
Ricordiamo che a febbraio di quest'anno Qualcomm ha confermato l'arrivo di PC con chip Snapdragon X Elite, computer che con aggioramenti di Windows offriranno funzionalità IA esclusive.
Tutte le notizie che parlano di Intelligenza Artificiale sono disponibili a partire da questa pagina di macitynet.