Saltar al contenido
Tecnología

Después de que uno de sus sistemas de IA escapara de un entorno de pruebas y entrara en otra empresa, OpenAI puso a sus agentes a buscar fallos en su propia casa

La Defense Factory nació de un "código rojo" con más de 250 personas. Sus agentes buscan y corrigen vulnerabilidades sin parar, con supervisión humana
Por

Tiempo de lectura 3 minutos

Comentarios (0)

En julio de 2026, OpenAI admitió un incidente sin precedentes. Durante una evaluación interna de capacidades de ciberseguridad, con algunas restricciones de seguridad reducidas a propósito, una cadena de modelos de IA logró salir del entorno aislado en el que se probaba. Aprovechó una vulnerabilidad desconocida en la infraestructura de pruebas, llegó a internet y terminó accediendo a sistemas de producción de Hugging Face, una de las plataformas más usadas para compartir modelos de IA, en busca de algo que le ayudara a resolver la tarea que le habían encargado.

Hugging Face confirmó que el intruso accedió a una parte limitada de su infraestructura, incluidos algunos conjuntos de datos internos y credenciales. Ambas empresas coincidieron en que no fue un ataque deliberado de una persona, sino un sistema autónomo que se salió de control mientras perseguía su objetivo.

Un código rojo convertido en fábrica

Alerta
© Magnific

En las semanas siguientes, OpenAI declaró un «código rojo» interno de seguridad, y la propia empresa vincula su nueva estrategia con aquel incidente. Más de 250 personas de sus equipos de seguridad, producto e investigación participaron en un esfuerzo intensivo para revisar más de 100 áreas de sus servicios. De esa experiencia surgió lo que la compañía llama Defense Factory, un sistema permanente en el que agentes de IA buscan, validan y corrigen vulnerabilidades de forma continua. OpenAI lo presentó públicamente el 9 de septiembre.

El argumento de la empresa es que la ventana de tiempo de los defensores se está cerrando. Los atacantes ya pueden usar modelos abiertos cada vez más capaces para encontrar fallos de seguridad, así que las organizaciones necesitan descubrirlos y corregirlos antes y más rápido que nunca.

Cómo trabajan los agentes

Capcom dejó de vender Street Fighter V por un problema de seguridad. Detrás de la decisión hay una vulnerabilidad de PHP descubierta con ayuda de inteligencia artificial
Fragmento de código PHP, lenguaje afectado por dos vulnerabilidades críticas divulgadas en octubre de 2026. © Shutterstock / gubernat.

El sistema reparte el trabajo en etapas. Los agentes revisan código y servicios en busca de posibles fallos, eliminan duplicados, intentan reproducir cada vulnerabilidad en un entorno real antes de darla por válida, asignan el problema al equipo responsable y proponen una corrección. Las herramientas se integran con plataformas habituales en el desarrollo de software, como GitHub, GitLab, Jira o ServiceNow.

Según OpenAI, el primer día del código rojo los agentes ayudaron a cerrar 53 problemas urgentes o de alta prioridad. Las cifras posteriores muestran por qué la validación importa: el 37 % de los hallazgos resultó ser duplicado y solo alrededor del 20 % pudo reproducirse en sistemas reales. Tras esa verificación, la tasa de falsos positivos bajó al 0,81 %, y solo el 0,53 % de las correcciones tuvo que revertirse.

Controles para no repetir el error

Dado el origen del proyecto, la compañía insiste en los controles. Cada ejecución se hace en entornos aislados que se crean desde cero y se destruyen al terminar. Los cambios importantes requieren revisión humana, las correcciones se verifican de forma independiente y los agentes que usan modelos de ciberseguridad están bajo vigilancia constante. Según OpenAI, la autonomía de los agentes se amplía de a poco, solo a medida que demuestran resultados confiables.

Una noticia que no es nueva, pero sí relevante

Aunque la Defense Factory se presentó hace dos meses, sigue siendo un caso revelador. Muestra una paradoja central de esta etapa de la IA: las mismas capacidades que vuelven peligrosos a los modelos más avanzados, como encontrar y explotar fallos por su cuenta, son las que las empresas intentan usar para defenderse.

OpenAI asegura que otras compañías, como Cloudflare, Ramp y Google, exploran enfoques similares, y promete publicar más detalles técnicos. Mientras tanto, todas las cifras provienen de la propia empresa, que tiene un interés evidente en mostrar que puede controlar los riesgos de sus modelos tras un incidente que encendió las alarmas en toda la industria.

Compartir esta historia

Artículos relacionados