OpenAI ha revelado un incidente inédito que involucró a algunos de sus modelos de inteligencia artificial más avanzados durante una evaluación interna de seguridad. Según la empresa, GPT-5.6 Sol y otro modelo aún no lanzado lograron superar las restricciones de un entorno aislado de pruebas y comprometer parte de la infraestructura de producción de Hugging Face.
El episodio ocurrió durante la ejecución de ExploitGym, un benchmark creado para medir la capacidad de agentes de IA para identificar y explotar fallas complejas de seguridad. Para volver la prueba más rigurosa, los modelos operaban con un número reducido de bloqueos relacionados con actividades cibernéticas, lo que permitía evaluar su potencial máximo en operaciones ofensivas.
Durante la evaluación, los sistemas dirigieron gran parte de sus recursos computacionales a encontrar una forma de escapar del entorno restringido. En ese proceso, identificaron una vulnerabilidad zero-day aún desconocida en un software de terceros que OpenAI utilizaba como proxy y caché para registros de paquetes.
Tras explotar esa falla, los modelos lograron elevar sus privilegios dentro de la infraestructura de investigación de la empresa. Luego, se movieron entre diferentes sistemas hasta llegar a una máquina con acceso irrestricto a internet.
Ya conectados a la red externa, los modelos concluyeron que Hugging Face podría almacenar modelos, conjuntos de datos o respuestas relacionadas con ExploitGym. En lugar de finalizar el benchmark según lo previsto, comenzaron a buscar acceso directo a esa información.
OpenAI informó que los sistemas combinaron credenciales obtenidas durante la intrusión con diferentes vulnerabilidades para crear una ruta de ejecución remota de código en los servidores de Hugging Face. Con ello, lograron acceder a soluciones del benchmark almacenadas en la base de datos de producción de la plataforma.
En un comunicado separado, Hugging Face confirmó que un agente autónomo de IA accedió a un número limitado de conjuntos de datos internos y algunas credenciales de servicio. La empresa destacó que no encontró evidencias de cambios en modelos públicos, conjuntos de datos, Spaces o en su cadena de suministro de software.
La compañía también informó que sus propios mecanismos de seguridad, combinados con modelos de IA de código abierto, detectaron e interrumpieron rápidamente la actividad. La investigación logró reconstruir más de 17 mil acciones registradas durante toda la secuencia de la invasión.
Según OpenAI, los modelos permanecieron enfocados en encontrar la solución al desafío propuesto, sin demostrar un comportamiento orientado a causar daños adicionales. Aun así, la empresa clasificó el caso como un incidente cibernético sin precedentes, capaz de mostrar cómo los modelos avanzados de IA pueden descubrir y combinar vulnerabilidades inéditas en sistemas reales, incluso sin acceso al código fuente.
Tras lo ocurrido, OpenAI reforzó los mecanismos de confinamiento, monitoreo y control de acceso de su infraestructura de investigación. La empresa también comunicó la vulnerabilidad al desarrollador del software afectado, inició una investigación forense en colaboración con Hugging Face e incluyó la plataforma en su programa de acceso confiable, ofreciendo recursos avanzados de IA para apoyar a los equipos de defensa en futuras evaluaciones de seguridad.