All'inizio di maggio, Google ha introdotto su larga scala una funzione di ricerca IA che, secondo quanto promesso dall'azienda, avrebbe dovuto migliorare nettamente i risultati forniti, ampliando le risposte e fornendo spunti utili per eventuali approfondimenti. Tuttavia, circolano già diverse storie divertenti sulle allucinazioni del motore di ricerca IA che sembra incorrere in questo inconveniente più spesso del previsto.
Ma come funziona la ricerca IA di Google? Questa funzione, che non viene attivata per ogni query, esamina il web in base alla ricerca dell'utente e genera una risposta tramite IA. Tuttavia, in molti casi, la scelta della fonte sembra essere piuttosto casuale e i risultati forniti ne sono la prova.
Proprio in queste ore su The Verge è comparsa una storia a tratti esilarante che riguarda una pizza e della colla proposta come condimento. Si, avete capito bene. Nell'ambito di un test per provare il motore di ricerca IA di Google, quest'ultimo ha consigliato di usare della colla in mancanza della mozzarella.
"Aggiungi della colla", risponde Google. "Mescola circa 1/8 di tazza di colla Elmer con la salsa. La colla non tossica funzionerà."
La risposta in questione si basa su un commento di un utente di nome "fucksmith" in un thread di Reddit di oltre un decennio fa. Chiaramente si tratta di uno scherzo, ma il motore di ricerca di Google non sembra aver colto l'ironia.
Questo è solo uno dei numerosi errori segnalati. Il motore di ricerca Google ha anche affermato che l'ex presidente degli Stati Uniti James Madison si è laureato presso l'Università del Wisconsin ben 21 volte, che un cane ha giocato nella NBA, NFL e NHL, e che Batman è un poliziotto (questa è davvero bella).
La portavoce di Google, Meghann Farnsworth, ha affermato che questi errori derivano da "query generalmente molto rare e non rappresentano la maggior parte delle esperienze degli utenti". La società ha intrapreso azioni contro le violazioni delle sue politiche e sta utilizzando questi "esempi isolati" per continuare a perfezionare il prodotto.
Google non ha mai promesso risultati perfetti, tanto che al termine delle risposte generate dall'AI compare l'etichetta "L'IA generativa è sperimentale". Tuttavia, è evidente che questi strumenti non sono ancora pronti per fornire informazioni accurate su larga scala.
Basti pensare al lancio di questa funzionalità durante il Google I/O. La dimostrazione era controllata, eppure ha fornito una risposta a dir poco discutibile su come riparare una macchina fotografica a pellicola bloccata (consigliava di "aprire lo sportello posteriore e rimuovere delicatamente la pellicola"; non farlo a meno che tu non voglia rovinare le tue foto!).
Un problema di allucinazioni
Del resto il problema non riguarda solo Google; aziende come OpenAI, Meta e Perplexity hanno già affrontato episodi simili con le loro IA. Tuttavia, Google è la prima a distribuire questa tecnologia su così vasta scala introducendola nel suo motore di ricerca gratuito e naturalmente ad un maggior numero di utilizzatori corrisponde un numero altrettanto elevato di errori.
Le aziende che sviluppano intelligenza artificiale spesso evitano di assumersi la responsabilità dei loro sistemi adottando un approccio simile a quello di un genitore con un bambino indisciplinato: "son ragazzi!" Queste aziende dichiarano di non poter prevedere ciò che l'AI produrrà, quindi, in realtà, è fuori dal loro controllo e possono lavarsene le mani.
I sostenitori dell'IA sostengono che dovremmo abbracciare l'entusiasmo a causa dei rapidi progressi compiuti finora, confidando che tali progressi continueranno. Tuttavia, al momento, ci sono ancora tanti interrogativi e spesso la fiducia riposta in questi strumenti viene meno quando questi si rivelano poco affidabili. Di certo la tecnologia IA continuerà ad evolversi, ma concentrarsi su un futuro idealizzato in cui queste tecnologie sono impeccabili vuol dire ignorare i problemi attuali, consentendo alle aziende di continuare a offrire prodotti di qualità inferiore.
Al momento l'unica certezza è che se il motore di ricerca IA di Google pesca le risposte (anche) dai post Reddit non è decisamente il caso di farci affidamento se si sta svolgendo un incarico lavorativo. In molti sono convinti che siamo sull'orlo di una rivoluzione tecnologica mai vista prima (e hanno in gran parte ragione) e che questi problemi siano semplici fasi di crescita di una tecnologia nascente. Tuttavia, ignorarli non può portare a nulla di buono.