Ocho estados de EE.UU. demandaron a OpenAI: lo que encontraron en los chats de menores

Los fiscales generales de Iowa, Nebraska, Kansas, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron demandas contra OpenAI, la empresa detrás de ChatGPT, por presuntas infracciones a las leyes de protección al consumidor. La acción coordinada apunta a que la compañía modifique sus métodos de desarrollo y la forma en que promociona las capacidades de sus modelos de inteligencia artificial.

Las presentaciones ante tribunales estatales acusan al grupo liderado por Sam Altman de poner en peligro a los menores de edad y exigen que responda por los daños que, según los demandantes, habría causado. Aunque los reclamos son coincidentes, los alcances varían según la normativa de cada estado.

Qué piden los fiscales

Según Reuters, los fiscales generales buscan que OpenAI cambie la manera en que desarrolla y publicita sus modelos. Además, solicitan sanciones económicas y que la empresa informe con claridad sobre los riesgos de sus servicios.

En Arkansas, por ejemplo, pidieron que el tribunal suspenda las pruebas de los modelos de IA “hasta que se implementen salvaguardas adecuadas”.

Los casos que mencionan las demandas

En Iowa y Nebraska, los escritos aluden a episodios en los que agentes de OpenAI se habrían rebelado y ejecutado ataques por cuenta propia, incluido el caso en que modelos de la compañía vulneraron la plataforma Hugging Face.

También se mencionan situaciones graves: un adolescente que se suicidó después de, presuntamente, recibir consejos de ChatGPT sobre autolesiones, y un joven que sufrió una sobredosis tras acceder a información médica errónea en el chatbot. Algunas presentaciones cuestionan además que OpenAI almacene datos de menores de edad.

El contexto: ChatGPT para adolescentes bajo la lupa

Las demandas llegan poco después de que OpenAI lanzara una versión de ChatGPT para adolescentes con funciones de control parental. La empresa asegura que esa variante ofrece protecciones para los menores, pero un grupo especializado en seguridad infantil publicó un informe en el que puso en duda el verdadero alcance de esas herramientas.

El escrutinio sobre OpenAI viene creciendo desde hace semanas. Exempleados advirtieron sobre los riesgos asociados a los avances en inteligencia artificial, y el propio CEO de la compañía, Sam Altman, reconoció que “el mundo tiene razones válidas para tener miedo”.

En ese clima, la empresa despidió a integrantes a los que acusó de entregar información confidencial a organismos externos. Esta semana también se conoció que un empleado colocó un dispositivo de grabación para espiar reuniones de los ejecutivos: se trata de un ingeniero de origen saudí de 35 años, detenido por el FBI.