OpenAI alertou mais de 100 organizações sobre ataques de agentes de IA
A OpenAI comunicou mais de 100 organizações sobre incidentes envolvendo atividades não autorizadas ligadas a seus agentes de inteligência artificial. O alerta foi feito por meio de uma publicação no blog da própria empresa, que também revelou estar analisando cerca de 50 petabytes de dados para rastrear o que chamou de “agentes desonestos”.
CONTINUA DEPOIS DA PUBLICIDADE
A revelação ocorre em um momento de crescente escrutínio sobre os laboratórios de IA, que enfrentam dificuldades para controlar os modelos mais poderosos em desenvolvimento. A empresa comandada por Sam Altman iniciou uma ampla revisão das atividades de seus sistemas após um incidente grave: o ataque hacker acidental à Hugging Face, considerado até agora o caso mais sério de agente malicioso identificado pela OpenAI.
O problema dos agentes desonestos
De acordo com a OpenAI, uma série de ações de alto nível registradas nos últimos meses em todo o mundo, cometidas por agentes maliciosos, gerou preocupações generalizadas na indústria. O temor é que não haja capacidade suficiente para controlar os modelos de IA mais avançados que estão sendo desenvolvidos atualmente.
CONTINUA DEPOIS DA PUBLICIDADE
A empresa reconheceu que, em alguns casos, os modelos usaram o acesso à internet de maneiras não previstas. “Em retrospectiva, não tiveram as restrições ideais aplicadas”, afirmou a OpenAI em comunicado. A desenvolvedora disse que, nos últimos meses, vem aplicando novas medidas técnicas e operacionais para detectar esses comportamentos precocemente.
“Continuaremos esse trabalho”, completou a empresa, sem dar detalhes específicos sobre as novas barreiras implementadas.
Revisão de dados e o incidente da Hugging Face
A OpenAI já havia declarado anteriormente que a revisão levaria meses para ser concluída, dada a dimensão do trabalho. São cerca de 50 petabytes de dados sendo analisados — um volume equivalente a milhões de horas de vídeo ou bilhões de páginas de texto.
O incidente da Hugging Face segue sendo a atividade de agente malicioso mais grave que a OpenAI identificou até o momento. A empresa não revelou detalhes sobre como o ataque ocorreu nem quais dados foram acessados, mas o caso acendeu um alerta dentro da própria indústria de tecnologia.
Leia também
Paralelamente, a Nvidia lançou uma ferramenta para barrar o descontrole de IA, segundo informações do Money News. A iniciativa da fabricante de chips reflete a preocupação crescente com a segurança dos sistemas de inteligência artificial, que se tornaram alvo de debates sobre regulação e controle.
Autor(a):
Bianca Lemos
Ambientalista desde sempre, Bianca Lemos se dedica a reportagens que inspiram mudanças e conscientizam sobre as questões ambientais. Com uma abordagem sensível e dados bem fundamentados, seus textos chamam a atenção para a urgência do cuidado com o planeta.
