Liz Reid, responsabile della ricerca di Google, ha ammesso che il motore di ricerca ha restituito alcuni "riassunti AI strani, inaccurati o inutili" dopo il lancio negli Stati Uniti. Reid ha spiegato in un post sul blog che alcune risposte particolari dell'IA derivano da contenuti satirici o non verificati presenti in forum e social media.
Ad esempio, l'IA ha risposto alla domanda "Quante pietre dovrei mangiare?" basandosi su un sito satirico. Inoltre, ha confermato che l'IA ha suggerito di usare la colla per far aderire il formaggio alla pizza, prendendo il contenuto da un forum.
Reid ha difeso Google sottolineando che alcune delle risposte più eclatanti, come l'affermazione che è sicuro lasciare i cani in auto, sono false. Altre risposte, come l'affermazione che Barack Obama è musulmano e che si dovrebbe bere molta urina per passare un calcolo renale, sono invece veri errori dell'IA. Inoltre, ha affermato che Google ha testato ampiamente la funzione prima del lancio, ma l'utilizzo da parte di milioni di persone ha rivelato problemi non previsti.
Google ha ora implementato misure di sicurezza per migliorare l'accuratezza delle risposte dell'IA ed evitare che l'IA fornisca consigli fuorvianti o pericolosi. Queste includono miglioramenti nel rilevamento di contenuti umoristici e satirici, limitazioni all'inclusione di risposte generate dagli utenti e restrizioni per le query su argomenti di salute dove le risposte generate dall'IA non erano utili.
Insomma, la mossa di Google riflette una maggiore attenzione alla qualità e alla sicurezza delle risposte generate dall'IA, riconoscendo l'importanza di controllare le fonti delle informazioni utilizzate dall'IA per garantire risultati più affidabili e meno inclini a diffondere disinformazione. Sarà, però, sufficiente?