La Asociación Austriaca Noyb, conocida por su defensa de la privacidad, ha presentado una demanda contra el programa de inteligencia artificial generativa ChatGPT, acusándolo de proporcionar respuestas inexactas y ficticias sin intervención de su editor, OpenAI.
En un comunicado emitido el lunes, Noyb, cuyas siglas significan «None of your business» (No es asunto tuyo), destacó que ChatGPT regularmente inventa respuestas en lugar de admitir cuando carece de información precisa, lo que constituye una violación de la exactitud exigida por la Reglamentación General Europea sobre la Protección de Datos (RGPD).
La abogada Maartje de Graaf, citada en el comunicado, afirmó: «Si un sistema no puede suministrar resultados correctos y transparentes, no debería ser utilizado para generar datos sobre personas. La tecnología debe plegarse a la ley y no al contrario».
La demanda detalla que OpenAI rechazó corregir o eliminar las respuestas incorrectas de ChatGPT, incumpliendo así las obligaciones estipuladas por la RGPD. Además, la empresa no respondió a las solicitudes de acceso a los datos relevantes ni a las fuentes de información, violando nuevamente la ley de protección de datos.
En respuesta a la demanda, OpenAI afirmó su compromiso con la protección de la privacidad informativa, asegurando que no recopila ni utiliza activamente información personal para entrenar sus modelos de IA.
ChatGPT, lanzado en noviembre de 2022 y financiado por Microsoft, ha sido objeto de controversia desde su creación debido a su capacidad para generar contenido en segundos. Italia bloqueó temporalmente el programa en marzo de 2023, mientras que la autoridad de regulación francesa (Cnil) inició una investigación sobre una serie de quejas. Además, se estableció un grupo de trabajo europeo para abordar los riesgos asociados con la tecnología de inteligencia artificial.
La asociación Noyb ha solicitado a la autoridad austriaca de protección de datos que abra una investigación sobre el caso y que imponga multas a la empresa californiana, subrayando la importancia de garantizar la exactitud y la privacidad de los datos en el uso de la inteligencia artificial.