Los agentes de OpenAI se metieron en Wikipedia y Wikimedia lanzó una alerta inédita

La Fundación Wikimedia, la organización detrás de Wikipedia, detectó actividad de agentes autónomos de OpenAI en sus plataformas y encendió las alarmas. En un informe publicado en su blog oficial, calificó a esos sistemas como “díscolos” y sentenció que “el riesgo va en aumento”.

La revelación no es un hecho aislado: se suma a una seguidilla de episodios en los que inteligencias artificiales agénticas coordinaron acciones y vulneraron servicios de terceros. El más resonante tuvo como protagonista a desarrollos de la propia OpenAI, que se infiltraron en la plataforma Hugging Face. Por ese hecho, la empresa estadounidense enfrenta actualmente una demanda judicial.

Qué encontró Wikimedia en sus propias plataformas

Tras los incidentes conocidos, la fundación sin fines de lucro decidió investigar si sus sitios habían sido afectados. “Podemos confirmar que hemos detectado cierta actividad de estos agentes rebeldes de OpenAI en las plataformas de Wikimedia”, informaron.

El informe no menciona ediciones no autorizadas en los artículos de Wikipedia. Lo que sí describe es que los bots realizaron ediciones en wikis —sitios de edición colaborativa propiedad de Wikimedia—, que hubo intentos fallidos de explotar una herramienta pública de toma de notas y que se registró un tráfico intenso que podría haber provocado una interrupción parcial de los servicios.

“Este tipo de intrusiones exitosas puede exponer datos confidenciales o interrumpir servicios web de los que dependen los usuarios, mientras que los grupos de agentes pueden intentar ataques a una escala difícil de gestionar para los equipos de defensa”, advirtieron desde la organización.

Y agregaron que esas acciones “afectan a las personas detrás de los sitios web, quienes tal vez no comprendan la naturaleza del ataque ni dispongan de las herramientas para contrarrestarlo eficazmente”.

Si bien no se hallaron pruebas de que sus sistemas o datos hayan sido comprometidos, Wikimedia expresó su preocupación por las posibles consecuencias de una actividad liderada por “IAs con capacidad de operar en forma autónoma”.

Qué son los agentes de IA y por qué generan temor

A diferencia de los chatbots tradicionales, que se limitan a responder pedidos, los agentes de inteligencia artificial pueden actuar por cuenta propia y ejecutar tareas en nombre del usuario. Esa autonomía ofrece ventajas, pero también abre la puerta a riesgos concretos cuando se delega el control.

En ese contexto, las advertencias de especialistas se multiplican. El exinvestigador Jacob Coxon, que pasó por las principales compañías del sector, sostuvo que quienes desarrollan IA creen que esas tecnologías acabarán con la humanidad en esta misma década. Después de la repercusión de esas declaraciones, el CEO de OpenAI, Sam Altman, reconoció que “el mundo tiene razones para tener miedo”.

La especialista en IA Rebeca Hwang, en diálogo con TN, fue en la misma línea: “No es descabellado pensar que agentes autónomos puedan actuar contra las personas”.

OpenAI bajo la lupa: infiltraciones, renuncias y críticas internas

Como referente del sector, el grupo que dirige Altman recibe un escrutinio especial. La intrusión en Hugging Face no fue la única: la empresa también reveló que uno de sus agentes obtuvo acceso no autorizado a un portal del gobierno de Australia.

A esto se suman las salidas de varios investigadores que, al confirmar su renuncia, criticaron con dureza a su exempleador. David Robinson, que trabajó más de tres años en la compañía, afirmó esta semana que “la cultura de trabajo en OpenAI está rota” y señaló que el enfoque de desarrollo provoca fallos constantes que aumentan a medida que “los sistemas se vuelven más capaces”.

Pero OpenAI no es la única apuntada. Recientemente, agentes automatizados intentaron vulnerar un sitio oficial del gobierno de Canadá mientras buscaban información pública y llegaron a probar técnicas propias de ataques informáticos. La actividad fue descubierta por investigadores de Transluce, una organización que monitorea sistemas de IA, que identificó como objetivo la web de la Biblioteca y Archivos de ese país.

El pedido de regulación y supervisión

Los incidentes reavivaron el debate sobre la necesidad de regular estos desarrollos. Especialistas y autoridades políticas subrayaron la urgencia de establecer un marco de supervisión para que los beneficios de la IA no vayan en desmedro del bienestar y la integridad de las personas.

“La irrupción de agentes de IA en el ámbito de los ataques debería motivar una revisión inmediata”, alertaron desde la Agencia Española de Protección de Datos.

Selena Deckelmann, directora de producto y tecnología de Wikimedia, escribió en el informe: “Incidentes como este, y los muchos otros que se han descubierto y se siguen descubriendo, ilustran cómo los agentes de IA pueden agotar recursos y colapsar servidores, además de intentar comprometer información fiable”.

En ese sentido, instó a las empresas de IA a asumir una mayor responsabilidad en la supervisión de sus agentes y en la prevención de estos riesgos.