Chatbots machen Fehler, das sollte den meisten Menschen mittlerweile klar sein. Unvorteilhaft kann das sein, wenn man sie auf eine verantwortungsvolle Position hievt, die bisher von Menschen eingenommen wurde - in diesem Fall, um populäre Themen auf X (früher Twitter) mit Kontextinformationen auszustatten. Der hauseigene Chatbot Grok von X hat nun eine Falschmeldung verbreitet, wonach der Iran einen Raketenangriff auf Israel gestartet hat.
➤ Mehr lesen: Elon Musks Startup xAI stellt KI-Modell "Grok" vor
Es gab keinen Angriff
Als Vergeltung auf Israels Krieg gegen die Hamas im Gazastreifen habe der Iran Raketen auf Tel Aviv abgefeuert, hieß es in der Meldung. Mehrere Gebäude wurden dabei zerstört und Brände seien ausgebrochen, schrieb Grok. Wie Mashable berichtet, fand die Meldung rasch große Verbreitung. Der iranische Angriff auf Israel hat jedoch nicht stattgefunden. Grok ist stattdessen falschen Informationen aufgesessen und hat ihre Wirkung bereitwillig verstärkt.
Die Ursache für den Fehler scheint gewesen zu sein, dass eine große Anzahl von verifizierten Profilen bei X eine Falschmeldung gepostet hat. Das Thema ergatterte als Trend die Aufmerksamkeit des Chatbots, der für die "Entdecken"-Seite bei X einen kleinen Text anfertigte, um Leser*innen schnelle Kontextinformationen zu liefern.
➤ Mehr lesen: Grimes bringt KI-Stofftier namens Grok heraus
Menschliches Team gefeuert
Diese Aufgabe haben bei Twitter früher Menschen übernommen. Ein eigenes Team hat für die Zusammenfassung von populären Themen am Kurznachrichtendienst auch mit Nachrichtenagenturen wie AP oder Reuters kooperiert. Mit der Übernahme von Twitter durch Elon Musk 2022 wurde das Kontext-Team jedoch gefeuert. Eine Zeit lang gab es gar keine Kontextinformationen. Seit 4. April wird Grok anstelle von Menschen eingesetzt.
Dass es dabei nun relativ rasch zu einem schweren Fehler kam, sei laut Expert*innen absehbar gewesen. Die neuen Texte bei X sind auch mit dem Hinweis versehen, dass es sich bei Grok um eine Funktion im Frühstadium handle und es zu Fehlern kommen könne. Man solle seine Äußerungen überprüfen. Dieser Hinweis wird von vielen Nutzer*innen aber ignoriert, wodurch Fake News schnell eine große Reichweite erhalten können. Seit 5. April kann Grok übrigens durch alle Premium-Nutzer*innen von X genutzt werden.