L’AI in locale sul dispositivo sarà una grande priorità per Android in futuro e Google ha condiviso più risorse per gli sviluppatori all’I/O 2024.
La sessione I/O 2024 “Android on-device AI under the hood” ha fornito “buoni casi d’uso” per l’IA generativa su dispositivo:
- Aiutare: fornire un riepilogo o una panoramica del testo
- Crea: suggerire risposte nelle app di messaggistica o generare/riformulare il testo
- Classificare: rilevamento di sentimenti/stati d’animo nelle conversazioni o nei messaggi
In generale, i vantaggi includono elaborazione locale sicura, disponibilità offline, latenza ridotta e nessun costo aggiuntivo (cloud). Le limitazioni sono dimensioni dei parametri inferiori, pari a 2-3 miliardi, o “quasi un ordine di grandezza inferiore agli equivalenti basati sul cloud”. C’è anche una finestra di contesto più piccola e come il modello sarà meno generalizzato. Pertanto, “la messa a punto è fondamentale per ottenere una buona precisione”.
Gemini Nano è la “modalità fondamentale scelta da Android per la creazione di repliche GenAI sul dispositivo“, ma puoi anche eseguire Gemma e altri modelli aperti.
Finora, solo le app di Google – Summarize in Pixel Recorder, Magic Compose in Google Messages e Gboard Smart Reply – lo sfruttano, ma Google ha “collaborato attivamente con sviluppatori che hanno interessanti casi d’uso Gemini sul dispositivo” attraverso un programma di accesso anticipato. Il loro lancio è previsto nel 2024.
Nel frattempo, Google utilizzerà presto Gemini Nano per i sottotitoli TalkBack, i suggerimenti dinamici Gemini e gli avvisi di spam, mentre un aggiornamento multimodalità arriverà entro la fine dell’anno “a partire da Pixel”.
Google ha anche osservato lo stato dell’intelligenza artificiale sul dispositivo un anno fa e quali miglioramenti sono stati apportati da allora, come l’accelerazione hardware.