Das neue KI-Tool von Google soll den Nutzer:innen schnell direkte Antworten auf ihre Fragen liefern, anstatt eine Liste von Weblinks zu präsentieren. Google AI Search wurde zwar ein Jahr lang getestet, bevor die neue KI-Suche in den USA ausgerollt wurde, doch was die Antworten betrifft, besteht definitiv noch Luft nach oben. Seit Google am 14. Mai damit begonnen, AI-Overviews (AIO) in die US-Suchergebnisse aufzunehmen, werden teilweise falsche oder fragwürdige Fakten präsentiert: „Manche sagen”, man könne von einer Klippe springen und in der Luft bleiben, solange man weiterläuft und nicht nach unten schaut, heißt es zum Beispiel. Google arbeitete nach den Fails schnell daran, die AIOs für bestimmte Suchanfragen manuell zu deaktivieren.
Google will sich gegenüber KI-Konkurrenz behaupten
AI Overviews wurde auch deshalb so schnell ausgerollt, weil Google es mit reichlich Konkurrenz auf dem Markt zu tun hat, gegen die es sich behaupten möchte. Vor allem ChatGPT und Perplexity sind zwei der Player, die das Unternehmen genau im Auge hat. Dabei hielt Google mit Stand April 2024 immer noch Marktanteil von 86 Prozent im US-amerikanischen Suchmaschinenmarkt, wie die Zahlen des Webanalysedienstes Statcounter GlobalStats verraten. Dass das Flaggschiffprodukt nun den Halluzinationen großer Sprachmodelle ausgesetzt ist, war nicht vorgesehen, überrascht aber auch nicht. Zu den „interessantesten” Aussagen zählen neben der über den Klippensprung auch jene, die angibt, schwangere Personen sollten zwei bis drei Zigaretten pro Tag rauchen und dass im Penis lebende Kakerlaken total normal seien. Weitere Antwort legen nahe, die Pizzasauce mit Kleber anzureichern und dass Barack Obama der erste muslimische Präsident in den USA war. Die fragwürdigsten Aussagen hat Thread Reader zusammengefasst.
Ein Google-Sprecher sagt zu den Halluzinationen: „Die überwiegende Mehrheit der KI-Übersichten bietet qualitativ hochwertige Informationen mit Links zu weiterführenden Webseiten.“ Laut dem Unternehmen entspringen die seltsamen Suchergebnisse „ungewöhnlichen Suchanfragen”. „Wir ergreifen im Rahmen unserer Inhaltsrichtlinien schnelle Maßnahmen und nutzen diese Beispiele, um umfassendere Verbesserungen an unseren Systemen zu entwickeln, von denen einige bereits in Betrieb genommen wurden.”
Google AI Search zwischen Fiktion und Mehrwert
Zusätzlich zur Halluzination scheint die KI-Software in einigen Fällen seriöse Fakten nicht von Satire unterscheiden zu können. Denn einige AIOs beziehen sich auf das amerikanische Satire-Portal „The Onion”, wie zum Beispiel die Empfehlung, einen kleinen Stein pro Tag zu essen. Dennoch muss man sich bewusst sein, dass Google AI Search Milliarden von Antworten produziert und viele davon häufiger korrekt als falsch sind. Das Unternehmen weist seine User:innen auch auf den „experimentellen” Charakter der neuen Suche hin und gibt in Einzelfällen an „An AI overview is not available for this search”.
Trotzdem: Die Fehler stechen aktuell besonders heraus und zeigen auf, dass jede KI-Antwort sorgfältig überprüft werden muss. Durch Vorfälle wie diese könnte das Vertrauen in KI-Anwendungen erschüttert werden. Dazu kommt die Sorge vieler Websitebetreiber:innen, dass Google nun durch AI Search weniger Traffic zu ihnen leite. Der Tech-Gigant sagt dazu, es gäbe seit dem Launch sogar mehr Datenverkehr zu den Quellen für Informationen, die in den Übersichten landen, nennt aber keine Zahlen. Für Google-CEO Sundar Pichai ist klar, dass die Ergebnisse auf Suchanfragen noch verbessert werden können. Er betont aber auch die positiven Reaktionen auf AI Search, spricht von einem „klaren Mehrwert” der Zusammenfassungen und von Perspektiven, an die man ohne die Ergebnisse gar nicht gedacht hätte.
Qualitätskontrolle und Haftungsbestimmungen
Laut Google generiert die AI fallweise Overviews, die nicht ausgespielt werden, da sie den Qualitätsansprüchen nicht entsprechen. Die in die Suche integrierten KI-Features müssen auch deshalb dringend verbessert werden, da falsche Suchergebnisse berechtigte Haftungsfragen mit sich bringen. Während Google bei der klassischen Suche die Websitebetreiber:innen für falsche Inhalte auf deren Seiten verantwortlich machen konnte, ist das bei direkt ausgespielten Antworten seitens Google etwas anders.
Der AI Act der Europäischen Union sieht vor, dass Unternehmen, die KI-Systeme entwickeln und betreiben, für Schäden haftbar gemacht werden können, die durch Fehler oder Mängel in diesen Systemen entstehen. Dafür wird gerade an einer KI-Haftungsrichtlinie gearbeitet. Sie soll die Beweislast bei Schadensersatzansprüchen gegen Anbieter von KI-Systemen prüfen und damit ein Regulierungsinstrument für potenziell Geschädigten darstellen. Außerdem soll sie den Schutz durch das Produkthaftungsgesetz auf KI-Systeme erweitern. Das Produkthaftungsgesetz regelt in vielen Ländern die Haftung des Herstellers für Schäden, die durch fehlerhafte Produkte verursacht werden. Expert:innen sind sich einig: Die Haftung wird beim Einsatz von KI-Systemen künftig auch Gerichte beschäftigen. Google plant jedenfalls, seine AI Search bis zum Jahresende auch in weiteren Ländern einzuführen. Bis dahin sollten Empfehlungen wie das Springen von Klippen besser noch eliminiert werden.