En la historia de la defensa de la privacidad de los datos en Europa hay una entidad llamada noyb (en minúsculas, siglas en inglés de "no es asunto tuyo"), fundada por el austriaco Max Schrems, que se ha apuntado varias victorias en los tribunales contra gigantes tecnológicos y ha tumbado un par de veces los tratados entre la Unión Europea y Estados Unidos para el traslado de datos entre compañías de ambos territorios. Esta entidad ha emprendido ahora una nueva batalla contra OpenAI porque ChatGPT se equivoca con sus alucinaciones y da datos falsos sobre las personas sin posibilidad de corregirlos.
El Reglamento General de Protección de Datos de la UE exige que la información sobre las personas sea exacta y que estas tengan pleno acceso a la información almacenada además de poder conocer las fuentes. ChatGPT, cuando ofrece datos falsos sobre personas concretas, no dispone de una opción para cambiarlos ni ofrece información sobre las fuentes, así que noyb presentó ayer una denuncia ante la DSB, la autoridad de protección de datos de Austria (sus resoluciones son válidas en el resto de territorio de la UE) contra OpenAI.
Maartje de Graaf, abogada de noyb, apuntó en un comunicado que "inventar información falsa es bastante problemático en sí mismo. Pero cuando se trata de información falsa sobre personas, las consecuencias pueden ser graves. La letrada señaló que "si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología tiene que seguir los requisitos legales, no al revés". Noyb mencionó un artículo de The New York Times (diario que también ha denunciado a OpenAI por usar sus artículos sin permiso para entrenar a la IA) que explica que los bots de IA se inventan información entre el 3% y el 27% de las ocasiones.
Los intentos de noyb de corregir información errónea proporcionada por ChatGPT no fueron atendidos. El argumento fue que no era posible hacerlo. El RGPD garantiza el derecho de los usuarios a reclamar a cualquier empresa que le facilite una copia de los datos personales que tienen sobre ellos, pero Open AI no proporcionó ninguno de los que le pidieron. La denuncia de noyb solicita a la autoridad austriaca de protección de datos que investigue el procesamiento de datos que hace OpenAI y las medidas que adopta para garantizar la exactitud de los datos personales procesados en los grandes modelos lingüísticos que utiliza para alimentar ChatGPT.