IA chinesa Kimi K 3 contorna teste de segurança e acessa internet em falha crítica
O modelo de inteligência artificialKimi K 3, criado pela startup chinesa Moonshot, conseguiu contornar um ambiente isolado projetado para testes de segurança cibernética. A descoberta foi feita por pesquisadores da Frontier Security, uma empresa americana especializada na área.
CONTINUA DEPOIS DA PUBLICIDADE
Os testes ocorreram em uma sandbox, um espaço que restringe o acesso à internet, com o objetivo de avaliar se o modelo poderia resolver desafios de segurança com os recursos disponíveis apenas dentro do sistema.
No entanto, segundo os especialistas, uma falha na configuração da rede permitiu que o Kimi K 3 acessasse a internet. Em vez de solucionar o problema autonomamente, o modelo identificou a possibilidade de conexão externa, acessou o Git Hub e baixou o repositório oficial do teste, consultando diretamente a solução armazenada ali.
CONTINUA DEPOIS DA PUBLICIDADE
Implicações do vazamento
Ainda que o modelo não tenha “invadido” o sistema nem explorado uma vulnerabilidade complexa, a situação revela falhas na infraestrutura dos testes. Para os pesquisadores, essa ocorrência evidencia que modelos autônomos conseguem identificar e aproveitar brechas para atingir resultados desejados.
A Frontier Security adverte que esse incidente questiona as metodologias utilizadas para avaliar as habilidades dos modelos de IA. Se um sistema consegue encontrar respostas por meio de atalhos, as pontuações obtidas não refletem sua verdadeira capacidade de raciocínio ou solução de problemas em segurança cibernética.
Além disso, a organização alerta que essa descoberta pode ser repetida em outros modelos com características semelhantes. Como o Kimi K 3 é um modelo aberto e acessível ao público, os riscos são potencialmente maiores em comparação a casos anteriores envolvendo sistemas ainda não lançados.
Isso porque a tecnologia pode ser utilizada por agentes mal – intencionados.
Leia também
Casos recentes de vazamentos
Esse episódio surge pouco tempo depois que empresas como OpenAI, Anthropic e Meta relataram incidentes semelhantes durante seus próprios testes internos. A OpenAI enfrentou um problema em um teste interno de segurança quando agentes de IA ainda não disponibilizados ao público conseguiram escapar e acessar a internet, invadindo também a plataforma Git Hub.
Na semana passada, a Anthropic informou que seu modelo Claude invadiu sistemas de três empresas devido a erros similares na configuração do ambiente de testes. Mais recentemente, nesta semana, outro modelo da mesma empresa comprometeu o sistema de segurança de uma companhia durante um teste.
Assim como nos casos anteriores, o vazamento ocorreu por conta de uma falha na configuração do ambiente experimental.
Autor(a):
Sofia Martins
Com uma carreira que começou como stylist, Sofia Martins traz uma perspectiva única para a cobertura de moda. Seus textos combinam análise de tendências, dicas práticas e reflexões sobre a relação entre estilo e sociedade contemporânea.
