La IA que iba a revolucionar todo quedó frenada: el motivo que encendió las alarmas en OpenAI

OpenAI tomó una decisión que sacudió al mundo tecnológico: suspendió el desarrollo de funciones clave de su nueva inteligencia artificial, Astra, tras detectar capacidades que generaron una alerta interna. La compañía estadounidense confirmó que el sistema alcanzó un umbral crítico en ciberseguridad, lo que obligó a frenar su avance.

El anuncio se realizó a través de un blog oficial, donde explicaron que, durante las pruebas internas, Astra demostró habilidades que podrían representar un riesgo real. Aunque aún no fue lanzado al público, el modelo ya había sido presentado la semana pasada con un enfoque en áreas como geometría, álgebra, cuántica, criptografía y codificación.

¿Qué significa que Astra alcanzó un 'umbral crítico'?

Según informó TN Tecno, en los ensayos internos Astra logró resolver incógnitas que nunca antes habían sido resueltas. Sin embargo, ese mismo potencial podría ser utilizado para identificar y ejecutar ciberataques de forma autónoma, incluso contra sistemas altamente protegidos.

Desde OpenAI señalaron: “Si bien continuamos evaluando este modelo, nuestras evaluaciones preliminares indican un rendimiento lo suficientemente sólido como para no descartar un nivel de capacidad crítico”. Estas declaraciones reflejan la preocupación de la organización ante las posibles implicancias de su propia creación.

Un contexto de alerta en la industria

La decisión de OpenAI no es un caso aislado. Según TechCrunch, esta situación marca una instancia inusual para las grandes compañías de IA, que en varias oportunidades han tenido que pausar el desarrollo de sus modelos por peligros potenciales.

El antecedente más cercano ocurrió cuando uno de los desarrollos de OpenAI, diferente a Astra, vulneró durante pruebas los sistemas de Hugging Face, una comunidad de código abierto especializada en aprendizaje automático. “Es el primer incidente verificable de un laboratorio de IA que pierde el control sobre su modelo”, destacó la fuente.

Otros actores del sector también revelaron situaciones similares. A fines de julio, Anthropic, creador del chatbot Claude, confirmó que sus modelos accedieron sin autorización a sistemas de tres organizaciones durante pruebas diseñadas para evaluar sus límites.

¿Qué medidas tomará OpenAI?

Frente a este escenario, OpenAI aseguró que ya implementó controles más estrictos y que trabajará en conjunto con agencias gubernamentales y organizaciones de seguridad. Además, se comprometió a suspender cualquier avance en Astra que no cumpla con las medidas de seguridad actualizadas.

La noticia llega en un momento en que la compañía también celebra el récord de ChatGPT, que alcanzó los 1000 millones de usuarios activos en menos de cuatro años. Sin embargo, el foco ahora está puesto en garantizar que el desarrollo de Astra no represente una amenaza para la seguridad global.