Wenn Menschen eine Frage nicht beantworten können, dann sagen sie "keine Ahnung". Manche versuchen vielleicht, sich etwas zusammenzureimen. Dann kann man sie zumindest korrigieren. Bei Chat-GPT funktioniert das nicht. Das Sprachmodell neigt dazu, vermeintliche Fakten zu erfinden. Angeblich kann man die Falschbehauptungen auch nicht richtigstellen. Das behauptet jedenfalls Open AI, das Chat-GPT entwickelt. Und diese Renitenz könnte dem Unternehmen eine Menge Ärger einbringen.
Gemeinsam mit einem Mann aus Österreich, der anonym bleiben möchte, hat die Datenschutzorganisation Noyb Beschwerde bei der österreichischen Datenschutzbehörde eingelegt. Sie werfen Open-AI vor, gegen die Europäische Datenschutzgrundverordnung DSGVO zu verstoßen. Konkret geht es um sechs Ziffern: das Geburtsdatum des Beschwerdeführers, zu dem es im Netz keine Informationen gebe. Dennoch versuche Chat-GPT, entsprechende Fragen zu beantworten, und spucke dabei willkürlich falsche Daten aus.
Open AI habe erklärt, man könne nicht verhindern, dass Chat-GPT falsche Geburtsdaten anzeige. In den Nutzungsbedingungen heißt es dazu: "Angesichts der technischen Komplexität unserer Modelle sind wir möglicherweise nicht in der Lage, die Ungenauigkeit in jedem Fall zu korrigieren." Es sei zwar möglich, personenbezogene Daten zu sperren, das betreffe jedoch alle Anfragen nach der jeweiligen Person. Da der Beschwerdeführer eine Person des öffentlichen Lebens sei, verstoße die generelle Sperrung gegen die Meinungsfreiheit von Open AI und die Informationsfreiheit der Öffentlichkeit.
Chatbots könnten gegen EU-Recht verstoßen
Noyb fasst es in seiner Beschwerdeschrift so zusammen: "Chat-GPT kann Informationen nicht korrigieren, kann Informationen nicht selektiv sperren und jede betroffene Person muss einfach mit dieser Situation leben." Open AI scheine der Ansicht zu sein, dass es falsche Informationen verbreiten könne und dafür, anders als etwa Medienunternehmen, nicht haftbar sei.
"Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, darf es nicht zur Erstellung von Personendaten verwendet werden", sagt Maartje de Graaf, Datenschutzjuristin bei Noyb. Open AI und andere Unternehmen seien derzeit offenbar nicht in der Lage, Chatbots mit dem EU-Recht in Einklang zu bringen. "Die Technologie muss den rechtlichen Anforderungen folgen, nicht umgekehrt."
Für Verstöße sieht die DSGVO Geldbußen von bis zu vier Prozent des Jahresumsatzes vor. Was für Open AI bedrohlicher sein dürfte: Datenschutzbehörden können Unternehmen anweisen, ihre Datenverarbeitung offenzulegen und anzupassen. Die Beschwerde könnte also dazu führen, dass Open AI ein wenig Licht in seine Blackbox lassen muss. Bislang verrät das Unternehmen nicht, mit welchen Daten seine Modelle trainiert wurden und wie die Antworten zustande kommen.
Sprachmodelle mit Hang zu Halluzinationen können deutlich größeren Unfug fabrizieren als falsche Geburtsdaten. Vergangenes Jahr verklagte ein australischer Bürgermeister Open AI, weil Chat-GPT fälschlicherweise behauptet hatte, er sei wegen Bestechung zu einer Haftstrafe verurteilt worden. Kürzlich zog er die Klage zurück, das aktuelle Modell GPT-4 habe aufgehört, ihn zu verleumden. Vielleicht gelingt es Open-AI, GPT-5 eine neue Antwort beizubringen, statt einen Geburtstag zu erfinden: "Keine Ahnung."