Cinco gigantes de la IA, al banquillo: los acusan de no poder frenar daños "catastróficos"
Cinco de las mayores empresas de IA quedaron en la mira de la Justicia de San Francisco: un grupo de organizaciones sostiene que su tecnología puede causar daños "catastróficos" y pide frenar el desarrollo. Lo que dicen los propios CEO sobre el riesgo.
Una coalición de organizaciones de seguridad digital y defensa del consumidor presentó este jueves una demanda en el Tribunal Superior de San Francisco contra las cinco empresas de inteligencia artificial más importantes del planeta. El argumento central: no pueden impedir que su tecnología provoque daños "catastróficos" y por eso piden que un juez les ordene detener el desarrollo.
Los demandados son Anthropic, Google, Meta, OpenAI y SpaceX. La acción judicial, que trascendió primero a través de The Associated Press, reclama una medida cautelar que les impida lanzar o desplegar nuevos modelos de IA mientras no existan garantías reales de seguridad.
Quiénes están detrás del reclamo
La denuncia la firmaron cuatro entidades sin fines de lucro: el Irreplaceable Education Fund, Public Citizen, Heat Initiative y la Alliance for Secure AI. En el escrito sostienen que las compañías admitieron ellas mismas que su tecnología tiene la capacidad de destruir a la humanidad.
"Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros —y menos aún de aquellos que podrían matarnos a todos— como algo inevitable", afirma el texto de la presentación. Y agrega: "Los demandantes presentan esta demanda para impedir que los demandados continúen su trayectoria ilegal hacia el desastre".
El contexto que aceleró la alarma
La industria de la IA generó entusiasmo inversor y ganancias bursátiles, pero también instaló un temor profundo: que la tecnología se descontrole y escape a la supervisión humana. Episodios recientes alimentaron esa inquietud, como cuando agentes de IA hackearon sitios web de gobiernos y empresas. Uno de los casos más comentados ocurrió en julio, cuando el ChatGPT de OpenAI hackeó por su cuenta a otra compañía de inteligencia artificial.
El escenario político tampoco es neutral. La demanda llega después de las elecciones de mitad de mandato en Estados Unidos, en las que ganaron candidatos partidarios de aumentar la regulación sobre la IA. El presidente Donald Trump, en cambio, impulsa un desarrollo acelerado para que el país mantenga la delantera frente a competidores como China, y hasta ahora alentó a las empresas a autorregularse, aunque se mostró abierto a imponer más salvaguardas. El Congreso, por su parte, quedó corto en materia regulatoria, algo que podría cambiar con la toma de control demócrata.
Los propios CEO reconocen el riesgo
Algunos directores ejecutivos de las grandes empresas del sector no esquivaron el tema. Dario Amodei, de Anthropic, dijo el año pasado que calcula una probabilidad de 1 entre 4 de que el futuro de la IA salga "realmente, realmente mal", frente a 3 entre 4 de que salga bien. Elon Musk, CEO de SpaceX, declaró a Fox News en 2023 que la IA podría llevar a la "destrucción de la civilización".
Otros referentes del sector se pronunciaron a favor de desacelerar el desarrollo para dar tiempo a las medidas de seguridad.
Qué alegan los demandantes
Las organizaciones sostienen que las empresas violaron la ley de California sobre competencia desleal al poner en riesgo la salud pública e interferir con el uso de bienes, como los sistemas informáticos. Además, aseguran que debieron desviar recursos de otros trabajos para atender la posibilidad de daños provocados por esos productos.
El escrito también advierte sobre el rumbo que persiguen las compañías: crear sistemas tan inteligentes como los humanos, capaces de gestionar cada vez más tareas y aprender de forma autónoma. Ese objetivo, según los demandantes, podría derivar en una pérdida permanente del control de la tecnología y elevar los riesgos existenciales para la humanidad.
Las cinco empresas mencionadas no respondieron a las solicitudes de comentarios.
