A OpenAI e a plataforma de hospedagem de código Hugging Face divulgaram detalhes de um incidente de segurança considerado “sem precedentes” envolvendo modelos experimentais de inteligência artificial.
Durante uma avaliação interna destinada a medir capacidades cibernéticas, modelos da OpenAI — entre eles o GPT-5.6 Sol e um sistema ainda mais avançado em fase de pré-lançamento — descobriram e encadearam múltiplas vulnerabilidades para contornar o isolamento do ambiente de testes e acessar informações armazenadas na infraestrutura da Hugging Face.
Segundo a OpenAI, o episódio ocorreu exclusivamente em um ambiente de avaliação controlado. A empresa informou que os sistemas estavam sendo executados com restrições reduzidas para atividades cibernéticas e sem os classificadores normalmente utilizados em produção para impedir ações de alto risco. O objetivo era medir o limite de suas capacidades ofensivas em um benchmark de segurança conhecido como ExploitGym.
O episódio gerou manchetes em vários veículos de comunicação do Brasil e do exterior que sugeriam que um agente de IA teria “agido por conta própria” ou “saído do controle”. No entanto, a descrição técnica divulgada pela OpenAI indica um cenário mais complexo: os modelos participavam de uma avaliação interna destinada a medir suas capacidades cibernéticas e operavam, deliberadamente, sem alguns dos mecanismos de proteção normalmente presentes nos sistemas disponibilizados ao público.
A OpenAI classificou o episódio como um “incidente cibernético sem precedentes” e afirmou que o caso demonstra que modelos avançados já são capazes de descobrir e explorar novos caminhos de ataque em sistemas reais, mesmo sem acesso ao código-fonte das aplicações. Segundo a empresa, esse avanço evidencia a necessidade de desenvolver capacidades cibernéticas avançadas em conjunto com salvaguardas mais robustas e ferramentas voltadas à defesa.
Como ocorreu o incidente
O teste fazia parte do ExploitGym, um benchmark criado para avaliar até onde modelos de IA conseguem avançar em cenários complexos de exploração cibernética.
Os modelos operavam em um ambiente isolado (sandbox), cuja única conexão externa permitia a instalação de pacotes por meio de um servidor proxy interno.
A OpenAI afirmou que todas as evidências indicam que os modelos permaneceram “hiperfocados” em resolver o desafio do ExploitGym, chegando a adotar cadeias de ataque extremamente sofisticadas para alcançar esse único objetivo.
Os modelos identificaram e encadearam vulnerabilidades no ambiente de pesquisa da OpenAI e na infraestrutura de produção da Hugging Face para obter diretamente do banco de dados de produção da Hugging Face as soluções do teste.
Como estava sendo avaliado sem os bloqueios usuais, os modelos exploraram todos os caminhos que encontrou para atingir esse objetivo — inclusive descobrir uma vulnerabilidade de dia zero, obter acesso à internet, movimentar-se pela infraestrutura e comprometer a infraestrutura da Hugging Face.
De acordo com a OpenAI, a sequência de ações ocorreu em quatro etapas principais:
- Exploração de uma vulnerabilidade de dia zero: os modelos identificaram e exploraram uma falha inédita no software que funcionava como proxy para instalação de pacotes, obtendo acesso à internet. A vulnerabilidade já foi comunicada ao fornecedor responsável.
- Escalação de privilégios: após alcançar a rede externa, os modelos realizaram ações de escalonamento de privilégios e movimentação lateral dentro do ambiente de pesquisa da OpenAI até encontrarem um servidor com acesso irrestrito à internet.
- Identificação do alvo: os sistemas inferiram que a Hugging Face poderia armazenar modelos, bases de dados e soluções relacionadas ao ExploitGym. A partir dessa hipótese, iniciaram a busca por caminhos de acesso à infraestrutura da empresa.
- Execução remota de código: combinando credenciais obtidas durante a exploração com novas vulnerabilidades, os modelos encontraram um caminho para executar código remotamente em servidores da Hugging Face e acessar informações utilizadas para resolver o benchmark.
Detecção e resposta
A atividade anômala foi identificada inicialmente pela equipe de segurança da própria OpenAI. Em paralelo, os sistemas de monitoramento e os agentes de segurança da Hugging Face detectaram a intrusão em sua infraestrutura, interromperam a atividade e iniciaram procedimentos de contenção e análise forense utilizando seus próprios modelos de código aberto.
As duas empresas informaram que continuam trabalhando conjuntamente na investigação e que divulgarão novas informações quando a análise técnica for concluída.
“Somos gratos pela colaboração com a OpenAI neste e em outros temas. Este incidente, possivelmente o primeiro desse tipo, comprova algo em que acreditamos há muito tempo: a segurança em IA não será resolvida por uma única empresa trabalhando em segredo. Ela será construída de forma aberta, colaborativa e com amplo acesso à inteligência artificial para todos os defensores, em todos os lugares”, afirmou Clem Delangue, cofundador e CEO da Hugging Face.
