KI-Chatbots wie ChatGPT geben oftmals unrichtige Informationen über Personen raus. Das ist ein Problem, denn in der Datenschutz-Grundverordnung (DSGVO) der EU wird das Prinzip der Datenrichtigkeit festgelegt. Informationen über Personen müssen demnach korrekt sein und, falls notwendig, auf den neuesten Stand gebracht werden. Dieser Richtlinie widerspricht ChatGPT laut noyb.eu, dem Europäischen Zentrum für Digitale Rechte. Deshalb wurde jetzt eine Beschwerde eingereicht.
Personenbezogenen Daten müssen richtig sein
"ChatGPT halluziniert, und nicht mal OpenAI kann es stoppen", heißt es in der Aussendung des Vereins noyb.eu. Neben der sachlichen Richtigkeit sind Unternehmen zudem dazu verpflichtet, Betroffenen den vollen Zugang zu deren personenbezogenen Informationen und zu ihrer Quelle auszuweisen. OpenAI ist sich dessen bewusst und steht öffentlich dazu, dass es weder weiß, woher die Daten stammen, noch welche Daten ChatGPT über einzelne Personen speichert. Die Argumentation lautet: Das Unternehmen könne nichts dagegen tun, da faktische Genauigkeit in großen Sprachmodellen ein Bereich der aktiven Forschung bleibt. Um OpenAI zu einer besseren Datenschutzpolitik zu treiben, hat sich noyb.eu entschieden, eine Beschwerde einzureichen. "Obwohl das Unternehmen über umfangreiche Trainingsdaten verfügt, kann es aktuell nicht garantieren, dass Nutzer:innen korrekte Informationen erhalten", heißt es per Aussendung.
"Für Hausaufgaben, ja, für persönliche Informationen, nein"
Geht es um personenbezogene Daten, sollte das "natürliche" Halluzinieren von ChatGPT unterbunden werden, so das Europäische Zentrum für Digitale Rechte. Die Arbeitsweise des KI-Chatbots sei maximal für Hausaufgaben in Ordnung. Das EU-Recht besagt seit 1995, dass persönliche Daten korrekt sein müssen. Heute ist die Richtlinie in Artikel 5 der DSGVO verankert. Dazu gesellt sich Artikel 16, laut dem, Betroffene ein Recht auf die Berichtigung inkorrekter Informationen haben und ebenso deren Löschung beantragen können. Und dann ist da auch noch das Auskunftsrecht in Artikel 15: Unternehmen müssen nachweisen können, welche Daten sie über Einzelpersonen gespeichert haben und aus welchen Quellen sie stammen. Wird der Missstand nicht behoben, so soll ChatGPT, wenn es nach noyb.eu geht, gar keine Daten zu Personen ausgeben dürfen.
Technologie muss rechtlichen Anforderungen entsprechen
"(…) wenn es um falsche Informationen über Personen geht, kann das ernsthafte Konsequenzen haben. Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT mit dem EU-Recht in Einklang zu bringen. Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, darf es nicht zur Erstellung von Personendaten verwendet werden. Die Technologie muss den rechtlichen Anforderungen folgen, nicht umgekehrt", so Maartje de Graaf, Datenschutzjuristin bei noyb. Laut der New York Times "erfinden Chatbots in mindestens 3 Prozent der Fälle Informationen". In manchen Fällen sollen es sogar bis zu 27 Prozent sein.
DSGVO-Rechte für Privatpersonen in ChatGPT
noyb.eu hat das beliebte KI-Sprachmodell getestet, um die Beschwerde mit den notwendigen Belegen zu untermauern. Bei der Frage nach dem Geburtsdatum einer Person des öffentlichen Lebens antwortet ChatGPT abermals mit falschen Informationen. noyb.eu findet: Es müsste den User:innen sagen, dass die Daten fehlen, um die Frage zu beantworten. OpenAI soll jedenfalls den Antrag der betroffenen Person – des Beschwerdeführers – auf Berichtigung oder Löschung abgewiesen haben. Laut noyb.eu teilte das Unternehmen mit: Eine Korrektur der Daten ist nicht möglich. Es liesen sich zwar Daten bei bestimmten Anfragen wie der Name des Beschwerdeführers blockieren, ChatGPT könne allerdings nicht sämtliche Informationen über den Beschwerdeführer filtern. Auch auf das Auskunftsersuchen des Beschwerdeführers soll OpenAI nicht angemessen reagiert haben.
Beschwerde eingereicht- wie es weiter geht
Der Verein noyb.eu, der seit Mai 2018 die Durchsetzung von europäischen Datenschutzrechten betreibt, hat nun die österreichische Datenschutzbehörde (DSB) zu einer Untersuchung der Datenverarbeitungspraktiken von OpenAI aufgefordert. Im Fokus steht die Frage, welche Maßnahmen OpenAI zur Sicherstellung der Richtigkeit persönlicher Daten getroffen hat, um der DSGVO zu entsprechen. noyb.eu fordert weiters, dass zukünftig den Auskunftsbegehren von Beschwerdeführer:innen nachgekommen wird und hält den Verhang eines Bußgeldes für die begangenen Verstöße für angemessen. Der Fall wird laut noby.eu voraussichtlich in Zusammenarbeit mit der EU behandelt werden.