Gli utenti che si trovano negli Stati Uniti e nel Regno Unito possono utilizzare la nuova funzionalità AI Overviews (in precedenza nota come Search Generative Experience) che Google ha annunciato durante la conferenza del 14 maggio. Dopo le numerose allucinazioni segnalate, l’azienda di Mountain View ha deciso di rimuovere le risposte sbagliate.
Secondo “epic fail” di Google
Circa tre mesi fa, Google ha sospeso la funzionalità di generazione delle immagini con il chatbot Gemini, in quanto i risultati erano piuttosto discutibili dal punto di storico. L’azienda di Mountain View ha commesso un secondo grave errore, ritenendo che il suo modello di intelligenza artificiale generativa fosse pronto per la diffusione di massa attraverso il motore di ricerca.
Negli Stati Uniti e nel Regno Unito è possibile sfruttare AI Overviews per ottenere risposte dettagliate alle query, invece del tradizionale elenco di link. Gli utenti hanno però scoperto una serie di allucinazioni, come quella che suggerisce di aggiungere colla alla pizza per evitare il distacco del formaggio.
Una portavoce di Google ha dichiarato:
AI Overviews fornisce informazioni di alta qualità nella maggioranza dei casi, con collegamenti per approfondire sul web. Molti degli esempi che abbiamo visto erano query insolite e abbiamo anche visto esempi modificati o che non siamo riusciti a riprodurre. Abbiamo condotto test approfonditi prima di lanciare questa nuova esperienza e, come per altre funzionalità che abbiamo lanciato in Search, apprezziamo il feedback. Stiamo intervenendo rapidamente, ove opportuno, in base alle nostre norme sui contenuti e utilizzando questi esempi per sviluppare miglioramenti più ampi ai nostri sistemi, alcuni dei quali hanno già iniziato ad essere implementati.
In pratica, l’azienda di Mountain View afferma che effettuerà modifiche a Gemini per rimuovere le risposte sbagliate. Chi non si fida del modello IA può cliccare sul filtro Web oppure seguire questa guida per disattivare AI Overviews in modo permanente.