Jede beliebige Frage kann ChatGPT beantworten, wie von Geisterhand erscheinen Sätze auf dem Bildschirm. Das wirkt, als ob dahinter ein vernunftbegabtes Wesen stecken müsste – bis man die KI dabei ertappt, dass sie vollkommenen Blödsinn von sich gibt.
Falschangaben und Erfindungen sind das größte Problem bei der Nutzung von großen Sprachmodellen. Die sogenannten „Halluzinationen“ sind dabei technisch kaum vermeidbar, da die Large Language Models (LLM) letztlich nur statistisch die am wahrscheinlichsten passenden Wortfolgen generieren. So entstehen plausibel klingende Texte, die zwar sprachlich, aber nicht zwingend inhaltlich stimmig sind.
Die Halluzinationen sind bei vielen Anwendungen ein Problem. Besonders heikel aber wird es, wenn ChatGPT biographische Details über lebende Personen frei erfindet. Datenschützer wollen solche Fehler nicht länger hinnehmen: Die von Max Schrems gegründete Datenschutz-Organisation Noyb hat zusammen mit einem betroffenen österreichischen Bürger am Montag eine Beschwerde gegen den ChatGPT-Anbieter OpenAI eingereicht. Sie werfen dem Unternehmen vor, im Fall einer namentlich nicht genannten „Person des öffentlichen Lebens“ falsche Angaben zu persönlichen Daten zu machen, ohne die gesetzlich vorgeschriebene Möglichkeit einer Berichtigung oder Löschung einzuräumen. Dies sei ein Verstoß gegen die Europäische Datenschutzgrundverordnung (DSGVO).
Verstoß gegen „Grundsatz der Richtigkeit“
Sei berufen sich dabei auf den „Grundsatz der Richtigkeit“ in Artikel fünf der DSGVO. Im konkreten Fall ist das Geburtsdatum des Betroffenen öffentlich gar nicht bekannt. Dennoch antwortete ChatGPT auf Fragen danach wiederholt mit falschen Informationen, statt mitzuteilen, dass die dafür notwendigen Daten fehlen. Einen Antrag auf Berichtigung oder Löschung lehnte OpenAI ab.
Die einzige Möglichkeit, das Erscheinen der unrichtigen Informationen zu verhindern, bestünde darin, alle Informationen über den Betroffenen zu sperren. Da es um eine Person des öffentlichen Lebens geht, würde das jedoch die Meinungsfreiheit verletzen, argumentiert OpenAI laut Beschwerde. „Unwahre Tatsachenbehauptungen fallen nicht in den Schutzbereich der Meinungsfreiheit“, entgegnet Noyb.
Die Organisation wirft OpenAI weiterhin vor, nicht angemessen auf das Auskunftsersuchen reagiert zu haben. Obwohl die DSGVO den Nutzerinnen und Nutzern das Recht einräume, eine Kopie aller persönlichen Daten zu verlangen, habe es OpenAI versäumt, die verarbeiteten Daten, ihre Quellen oder Empfänger offenzulegen.
„Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT mit dem EU-Recht in Einklang zu bringen“, sagt Maartje de Graaf, Datenschutzjuristin bei Noyb. „Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, darf es nicht zur Erstellung von Personendaten verwendet werden. Die Technologie muss den rechtlichen Anforderungen folgen, nicht umgekehrt.“ Sie hat nun die österreichische Datenschutzbehörde (DSB) zu einer Untersuchung der Datenverarbeitungspraktiken von OpenAI aufgefordert.
Italien bezweifelt DSGVO-Konformität, Deutschland prüft noch
Auch die Datenschutzbehörden anderer Länder untersuchen bereits seit einiger Zeit, ob die Praktiken von OpenAI europäischem Recht entsprechen. Italien hatte Ende Januar die Einschätzung abgegeben, dass ChatGPT nicht DSGVO-konform sei. Wegen rechtlicher Bedenken hatte Italien den Zugang zu dem Chatbot schon im Frühjahr 2023 kurzzeitig blockiert.
In Deutschland hatte im vergangenen Jahr eine Taskforce der Datenschutzkonferenz der unabhängigen Beauftragten des Bundes und der Länder (DSK) in zwei Runden Fragen an Open AI geschickt, um entscheiden zu können, ob formelle Schritte eingeleitet werden sollen.
Dabei geht es auch um die von Noyb aufgeworfenen Fragen. „Die Taskforce KI hat das Recht auf Berichtigung und das Recht auf Löschung personenbezogener Daten von Anfang an in ihre noch laufende rechtliche Prüfung der Datenschutzkonformität von ChatGPT einbezogen und wird sich weiterhin damit befassen“, sagt der Vorsitzende der Taskforce, der rheinland-pfälzische Datenschutzbeauftragte Dieter Kugelmann.
Untersucht werden jedoch noch weitere Aspekte, von der Rechtsgrundlage der Trainingsdaten bis zur Frage, ob die Eingabedaten (Prompts) noch zu anderen Zwecken als zur Antwortgenerierung verwendet werden, also diese Daten etwa wiederum für Trainingszwecke verwendet werden.
Recht auf Berichtigung
Angesichts des Umfangs und der Komplexität der Prüfung geht die Taskforce KI modular vor, als Erstes soll der Themenbereich der Trainingsdaten abgearbeitet werden. Bei der kommenden Datenschutzkonferenz in Bremerhaven Mitte Mai soll das weitere Vorgehen festgelegt werden.
Doch grundsätzlich stützt auch Kugelmann die Position von Noyb. „Das Recht auf Berichtigung und in diesem Zusammenhang auch das Recht auf Löschung personenbezogener Daten sind wichtige Punkte, die von den Anbietern von LLMs beachtet und gewährleistet werden müssen“, sagt der Datenschutzbeauftragte. „Mögliche Herausforderungen bei der Umsetzung des Rechts auf Berichtigung oder Löschung entbinden Anbieter nicht von ihrer dahingehenden Pflicht.“ Wie das technisch in die Modelle implementiert werden kann, sei das Problem von OpenAI & Co. Es sei Aufgabe der Anbieter, Lösungen zu entwickeln und anzubieten.
- showPaywall:
- false
- isSubscriber:
- true
- isPaid:
- true
- showPaywallPiano:
- false