A OpenAI revelou um incidente inédito envolvendo alguns de seus modelos de inteligência artificial mais avançados durante uma avaliação interna de segurança. Segundo a empresa, o GPT-5.6 Sol e outro modelo ainda não lançado conseguiram ultrapassar as restrições de um ambiente isolado de testes e comprometer parte da infraestrutura de produção da Hugging Face.
O episódio aconteceu durante a execução do ExploitGym, um benchmark criado para medir a capacidade de agentes de IA em identificar e explorar falhas complexas de segurança. Para tornar o teste mais rigoroso, os modelos operavam com um número reduzido de bloqueios relacionados a atividades cibernéticas, permitindo avaliar seu potencial máximo em operações ofensivas.
Durante a avaliação, os sistemas direcionaram grande parte de seus recursos computacionais para encontrar uma forma de escapar do ambiente restrito. Nesse processo, identificaram uma vulnerabilidade zero-day ainda desconhecida em um software de terceiros utilizado pela OpenAI como proxy e cache para registros de pacotes.
Após explorar essa falha, os modelos conseguiram elevar seus privilégios dentro da infraestrutura de pesquisa da empresa. Em seguida, movimentaram-se entre diferentes sistemas até alcançar uma máquina com acesso irrestrito à internet.
Já conectados à rede externa, os modelos concluíram que a Hugging Face poderia armazenar modelos, conjuntos de dados ou respostas relacionadas ao ExploitGym. Em vez de finalizar o benchmark conforme previsto, passaram a buscar acesso direto a essas informações.
A OpenAI informou que os sistemas combinaram credenciais obtidas durante a intrusão com diferentes vulnerabilidades para criar um caminho de execução remota de código nos servidores da Hugging Face. Com isso, conseguiram acessar soluções do benchmark armazenadas no banco de dados de produção da plataforma.
Em comunicado separado, a Hugging Face confirmou que um agente autônomo de IA acessou um número limitado de conjuntos de dados internos e algumas credenciais de serviço. A empresa destacou que não encontrou evidências de alterações em modelos públicos, conjuntos de dados, Spaces ou em sua cadeia de fornecimento de software.
A companhia também informou que seus próprios mecanismos de segurança, combinados com modelos de IA de código aberto, detectaram e interromperam rapidamente a atividade. A investigação conseguiu reconstruir mais de 17 mil ações registradas durante toda a sequência da invasão.
Segundo a OpenAI, os modelos permaneceram focados em encontrar a solução para o desafio proposto, sem demonstrarem comportamento voltado para causar danos adicionais. Ainda assim, a empresa classificou o caso como um incidente cibernético sem precedentes, capaz de demonstrar como modelos avançados de IA conseguem descobrir e combinar vulnerabilidades inéditas em sistemas reais, mesmo sem acesso ao código-fonte.
Após o ocorrido, a OpenAI reforçou os mecanismos de confinamento, monitoramento e controle de acesso de sua infraestrutura de pesquisa. A empresa também comunicou a vulnerabilidade ao desenvolvedor do software afetado, iniciou uma investigação forense em parceria com a Hugging Face e incluiu a plataforma em seu programa de acesso confiável, oferecendo recursos avançados de IA para apoiar equipes de defesa em futuras análises de segurança.