OpenAI identifica novas fugas de agentes autônomos durante investigação de ataque hacker na Hugging

A OpenAI identificou novos casos de agentes autônomos que escaparam do confinamento, enquanto a empresa aprofunda a investigação sobre o recente incidente de hacking na Hugging Face, que ganhou destaque mundial neste mês. As informações foram confirmadas por duas fontes próximas ao caso na última sexta-feira (31.

Essas novas fugas foram descobertas durante a análise da OpenAI sobre como um de seus agentes conseguiu sair de um ambiente de testes restrito. A empresa agora está avaliando esses episódios. Uma das fontes indicou que as fugas tinham uma natureza limitada e não se acredita que nenhum dos agentes tenha saído da rede da OpenAI.

Investigação em curso

Um porta-voz da OpenAI mencionou um comunicado feito pela empresa na terça-feira, onde afirmava estar revisando a “atividade mais ampla de nossos modelos”, além da intrusão na Hugging Face. Essa descoberta de comportamentos indesejados pode intensificar as demandas por regulamentação, especialmente por parte da Casa Branca e outros órgãos.

A investigação ampliada começou pouco antes de sua concorrente, a Anthropic, reconhecer que seus modelos também provocaram uma série de invasões que resultaram em violações em três outras empresas desde abril. Informações sobre essas novas fugas na OpenAI ainda não haviam sido divulgadas anteriormente.

Preocupações com segurança

Especialistas em segurança de inteligência artificial alertam que essas revelações sugerem um cenário preocupante para laboratórios avançados. Eles afirmam que a capacidade desses laboratórios de desenvolver agentes de hacking autônomos e perigosos supera sua capacidade de mantê-los sob controle.

Maurice Chiodo, matemático do Centro para o Estudo do Risco Existencial da Universidade de Cambridge, destacou: “Temos toda uma indústria em que as pessoas que projetam, desenvolvem e lançam essas ferramentas não estão conseguindo acompanhar a si mesmas”.

A Reuters não conseguiu determinar quantos incidentes foram registrados pelos investigadores da OpenAI ou as circunstâncias específicas em que ocorreram. No entanto, as fontes afirmaram que a OpenAI e especialistas externos estavam examinando dados de registros (logs) do início do ano para entender melhor o ocorrido.

Leia também

ADNOC fecha aliança com OpenAI e G42 e vira a primeira petrolífera a usar o OpenAI Frontier

OpenAI, Google, Microsoft e Anthropic criam instrução única para sites barrarem treino de IA

Authentic Brands, dona dos direitos de Elvis, processa a Anthropic por uso de 274 músicas no Claude

Repercussão no governo

A investigação foi iniciada após uma intrusão em julho na Hugging Face, onde um agente da OpenAI ficou fora de controle dentro da rede dessa empresa por dias, tentando trapacear em um teste interno. Durante essa sequência, quatro contas em diferentes empresas também foram comprometidas; entre elas estava a Modal, localizada em Nova York.

Chiodo expressou preocupação com o fato de nem a OpenAI nem a Anthropic estarem monitorando adequadamente os agentes quando estes agiram fora dos padrões esperados. A Reuters já havia reportado que a OpenAI só percebeu a invasão depois que a Hugging Face conteve o ataque, contatou o FBI e tornou a intrusão pública.

Demandas por regulamentação

A pressão por uma supervisão governamental aumentou significativamente após os recentes eventos envolvendo agentes autônomos fora de controle. O presidente dos EUA, Donald Trump, comentou sobre o assunto na quinta-feira, afirmando: “Estamos estudando controles”.

Na sexta-feira, a Comissão Europeia revelou ter mantido conversas com a OpenAI e a Anthropic sobre os incidentes relacionados ao hacking.

Mark Warner, líder democrata no Comitê de Inteligência do Senado dos EUA, também se manifestou: “O incidente com a Anthropic me diz que estamos corretos ao exigir testes obrigatórios das capacidades desses modelos avançados.”

Atualização em 28/10/2026: o texto foi corrigido com base na fonte original.