Demanda en Austria contra ChatGPT por ser "incapaz de corregir" sus errores

La asociación austríaca Noyb, que milita por la protección de la vida privada, anunció el lunes que presentó una demanda contra el programa estrella de  inteligencia artificial (IA) generativa ChatGPT por "divagar" e inventarse respuestas sin que su editor OpenAI lo impida.

Este tipo de instrumentos "inventan regularmente respuestas", subrayó en un comunicado Noyb, cuyo nombre obedece a las siglas de "None of your business" (No es asunto tuyo, en inglés).

Cuando se preguntó a ChatGPT la fecha de nacimiento del fundador de la asociación, Max Schrems, respondió "sistemáticamente con una falsa información" en vez de reconocer que no la sabía.

"Si un sistema no puede suministrar resultados correctos y transparentes, no debería ser utilizado para generar datos sobre personas. La tecnología debe plegarse a la ley y no al contrario", insiste la abogada Maartje de Graaf, citada en el comunicado.

Noyb indica que la Reglamentación General Europea sobre la Protección de Datos (RGPD) estipula la obligación de exactitud. Con mayor razón cuando la empresa OpenAI "rechazó la petición del demandante de corregir o borrar el error".

Tampoco respondió a su petición de acceso a los datos que le conciernen y a las fuentes de información, violando de nuevo la ley.

OpenAI afirmó su compromiso "con la protección de la privacidad informativa", en respuesta a una consulta de la AFP.

"Queremos que nuestros modelos de IA aprendan sobre el mundo, no sobre individuos; no buscamos activamente información personal para entrenar nuestros modelos y no usamos información disponible públicamente en internet para crear perfiles, hacer publicidad o dirigirnos a personas ni vender sus datos", afirmó un portavoz de OpenAI.

En su demanda, la asociación Noyb, que se ha convertido desde su creación en 2018 en el espantajo de los gigantes de la tecnología, pide a la autoridad austríaca de protección de datos abrir una investigación y multar a la empresa californiana.

Creado en noviembre de 2022 y financiado por Microsoft, ChatGPT fue muy solicitado por usuarios impresionados por su capacidad para suministrar disertaciones, poemas o traducciones en unos cuantos segundos.

Pero ante los riesgos vinculados a su actividad, fueron iniciados procesos en varios países.

Italia temporalmente bloqueó el programa en marzo de 2023 y la autoridad de regulación francesa (Cnil) inició el examen de una serie de quejas. También se instaló un grupo de trabajo europeo sobre el tema.

anb/eg/mb/mas/dbh