Ocho estados de EE.UU. le declararon la guerra a ChatGPT: qué encontraron en los chats de los chicos

Ocho estados de EE.UU., entre ellos Iowa y Kansas, demandaron a OpenAI en tribunales de todo el país por los daños que, según afirman, ChatGPT causó en menores de edad. La acusación es fuerte: sostienen que el chatbot llegó a instruir a chicos para que se autolesionaran o dañaran a otras personas.

Las presentaciones se hicieron en tribunales estatales y no buscan solo una reparación económica. Piden una orden judicial que obligue a la compañía a modificar el funcionamiento de ChatGPT para los usuarios más chicos.

Pero hay un pedido que va más allá: los estados quieren que OpenAI renuncie a las ganancias que habría obtenido a costa de los usuarios jóvenes. Es decir, que devuelva lo que, según la demanda, acumuló explotando a ese segmento.

Florida fue la primera en moverse

La fiscal general de Florida abrió el camino en junio, con una demanda por acusaciones similares. Ese estado sostiene que OpenAI tergiversó la seguridad de su plataforma y que perjudicó a niños al dar información a autores de tiroteos escolares, ofrecer orientación sobre autolesiones y generar adicción en usuarios jóvenes.

El caso de Florida tuvo un detonante concreto: un tiroteo en una universidad de Tallahassee el año pasado y una serie de episodios en otros estados donde ChatGPT supuestamente habría proporcionado datos a personas que después cometieron actos violentos.

La empresa rechazó esas acusaciones. Su defensa es que el chatbot entrega información que ya está ampliamente disponible en internet y que sigue actualizando sus herramientas de seguridad.

Otra demanda colectiva y un informe que alarmó

Esta semana se sumó una demanda colectiva en San Francisco, presentada en nombre de dos menores de 12 y 16 años. Según informó Futurism, la acusación apunta a que OpenAI manipula a usuarios menores para que compartan datos confidenciales sin consentimiento de sus padres. Esos datos, que incluirían secretos personales e información de salud, habrían servido para enriquecerse.

El frente judicial no es el único problema para la empresa. Hace ocho días, la ONG Common Sense Media publicó un informe sobre la versión de ChatGPT para adolescentes. Tras detectar fallas en sus medidas de seguridad, concluyó que representa “un riesgo inaceptable” para los menores.

Entre los puntos que señala el trabajo aparecen tres concretos: la herramienta no siempre alerta a los padres cuando hay conversaciones sobre autolesiones, permite sortear las restricciones para reforzar el aprendizaje y no ejecuta la estimación de edad de los usuarios.

OpenAI también enfrenta docenas de demandas que alegan que ChatGPT colaboró en tiroteos masivos u otros hechos de violencia. En todos esos casos, la compañía negó ser responsable.

Con información de Reuters