Con l’annuncio di AI Overview negli USA durante il Google I/O 2024, Google ha introdotto ufficialmente l’intelligenza artificiale nei motori di ricerca. Il dibattito è acceso sulla reale capacità di questa tecnologia e sulla sua prontezza per un compito così cruciale. I primi giorni di AI Overview hanno evidenziato ancora una volta quanto i modelli di intelligenza artificiale attuali siano soggetti ad errori, noti come allucinazioni.
Ai Overview di Google e le sue allucinazioni
Accedendo al portale di ChatGPT, sotto la casella di testo si trova l’avviso: “ChatGPT può commettere errori. Considera di verificare le informazioni importanti”. Questo avviso sottolinea la realtà che, nonostante l’utilizzo del sofisticato modello GPT-4, i modelli linguistici di grandi dimensioni possono generare risultati errati o fuorvianti. Google Cloud stesso riconosce che queste imprecisioni possono derivare da vari fattori, come la scarsità di dati per l’addestramento o distorsioni nei dataset.
L’utilizzo di tali strumenti in campi sensibili può comportare seri rischi. I primi test di AI Overview negli USA hanno già mostrato problemi significativi. Ad esempio, alla domanda su come preparare una pizza fatta in casa, l’intelligenza artificiale ha suggerito di “aggiungere un po’ di colla”, basando la risposta su un commento ironico trovato su Reddit. Altri esempi includono risposte assurde come un James Madison laureato 21 volte o un Batman poliziotto.
Questi esempi sollevano dubbi sull’affidabilità di AI Overview, specialmente perché Google è considerato una fonte estremamente credibile. Il rischio è che le risposte dell’intelligenza artificiale, anche se apparentemente autorevoli, possano essere accettate come veritiere senza ulteriori verifiche. La gara per integrare l’IA nei motori di ricerca è iniziata da tempo, ma l’integrazione in Google, il motore di ricerca più utilizzato al mondo, porta con sé implicazioni di grande portata.
In risposta agli errori riscontrati, la portavoce di Google, Meghann Farnsworth, ha difeso AI Overview, sostenendo che gli errori derivano da “domande molto insolite” e non rappresentano l’esperienza della maggior parte degli utenti. Google ha annunciato azioni correttive per migliorare il servizio, ribadendo che l’IA generativa è ancora in fase sperimentale.
La fretta è cattiva consigliera
Sundar Pichai, CEO di Google, ha ammesso in un’intervista a The Verge che le allucinazioni dell’IA sono un “problema ancora irrisolto” e una caratteristica intrinseca di questi modelli. Pichai crede comunque che AI Overview possa essere utile in combinazione con il classico motore di ricerca, e sottolinea l’importanza di non concentrarsi solo sugli aspetti negativi.
In definitiva, mentre la tecnologia continua a evolversi, resta da vedere se la spinta all’innovazione delle Big Tech non abbia superato i limiti della prudenza, introducendo funzioni non ancora pronte per un uso su larga scala.