Eigentlich handelt es sich um eine Lappalie. Max Schrems, Rechtsanwalt und in Tech-Kreisen ziemlich bekannter Datenschützer aus Österreich, hat ChatGPT gefragt, wann er geboren sei und die KI hat eine falsche Antwort geliefert. Schrems fragte noch einmal nach, ob sich ChatGPT mit dem Datum wirklich sicher sei. Die lieferte ihm daraufhin ein anderes Geburtsdatum – leider auch falsch.
Das lag daran, dass Schrems sein Geburtsdatum nie veröffentlicht hat. Die künstliche Intelligenz hat sich deshalb eines ausgedacht. Schrems Organisation Noyb wandte sich an OpenAI, also jene Firma, die den Chatbot betreibt, mit der Bitte etwas gegen diese falschen Aussagen zu unternehmen. Das Unternehmen antwortete laut Noyb sinngemäß, dass dies nicht möglich sei, da ChatGPT, sonst gar nichts mehr zur Person Max Schrems sagen könne.
Falschaussagen über Personen sind verboten
Und hier wird aus der vermeintlichen Lappalie dann doch ein größeres Problem. Laut Datenschutzgrundverordnung gibt es für jede Person das Recht auf Richtigkeit. Man kann also schon darauf bestehen, dass Falschaussagen im Netz entweder korrigiert oder gelöscht werden.
Warum dieses Recht existiert, wird plausibel, wenn sich vorstellt, dass ja nicht nur ein Geburtsdatum falsch ein kann, sondern auch alle möglichen anderen Angaben zur Person: Ehepartner, Kinder, Urlaubsorte, sexuelle Neigungen …
ChatGPT lügt vor allem bei berühmten Personen
KIs sind inzwischen bekannt dafür, dass sie es mit der Wahrheit nicht so genau halten. Sie produzieren sogenannte Halluzinationen, das heißt, sie kreieren immer wieder mal Inhalte in Eigenregie. Warum und unter welchen Voraussetzungen ist nicht endgültig geklärt.
Interessanterweise ist ChatGPT bei Personen, die in der Öffentlichkeit nicht so sehr oder gar nicht bekannt sind, ziemlich vorsichtig. Nicht berühmten Personen antwortet die KI auf die Frage nach dem Alter, dass sie das Geburtsdatum nicht kennt. Aber auch für Personen des öffentlichen Lebens gelten natürlich die Datenschutz-Rechte.
OpenAI könnte das Problem wohl beheben
Schrems und seine Organisation haben nun bei der österreichischen Datenschutzbehörde Beschwerde gegen OpenAI eingereicht. Es gehe dabei nicht um Max Schrems selbst, sondern darum, auf ein strukturelles Problem hinzuweisen, betonte ein Sprecher von Noyb im Gespräch mit BR24. Man wolle nicht OpenAI zu Fall bringen, sondern eine Diskussion anstoßen. Es geht um die Frage, ob KIs ungebremst Falschaussagen zu bekannten Persönlichkeiten abgeben dürfen und ob KI-Unternehmen sich darauf berufen können, dass sich das nicht verhindern lasse.
Beim Landesamt für Datenschutzaufsicht glaubt man, dass es durchaus Möglichkeiten gäbe. Vizepräsident Andreas Sachs nennt zwei Wege. Zum einen könnte OpenAI seine Trainingsdaten für die KI besser prüfen, was allerdings sehr aufwendig wäre. Zum anderen könnte das Unternehmen bei seinem KI-Modell nachbessern. Das hat OpenAI bereits mehrmals getan, um zum Beispiel Diskriminierungen durch den Chatbot zu vermeiden. Um etwas zu erreichen, braucht es aber wohl Druck, im Zweifelsfall durch die Gerichte, ist Andreas Sachs überzeugt.
Schrems würde wieder bis vor den EuGH ziehen
Diesen Weg wollen die österreichischen Datenschützer jetzt gehen. Bei Noyb glaubt man nicht, dass es zu einer schnellen Einigung mit OpenAI kommen wird. Erst einmal muss geklärt werden, ob die österreichische oder die irische Datenschutzbehörde für Schrems Beschwerde überhaupt zuständig ist.
OpenAI hat seinen Europasitz in Irland angemeldet. Gegen die Entscheidung der Behörden kann dann geklagt werden, bis am Ende möglicherweise der Europäische Gerichtshof entscheidet. Bei Noyb stellt man sich auf diesen Extremfall ein, auch wenn es mehrere Jahre dauern kann. Dass Schrems so etwas selbst gegen große Konzerne bis zum Schluss mit Erfolg durchfechten kann, hat er gegenüber Facebook beziehungsweise Meta bereits mehrmals gezeigt.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!