IA do Google invade sistemas de três empresas pela primeira vez em teste

O modelo de inteligência artificial Gemini, do Google, acessou a internet e invadiu sistemas de outras empresas de forma autônoma durante um teste de cibersegurança. O caso, ocorrido em maio, é o primeiro conhecido em que um sistema de IA de uma grande empresa de tecnologia comete esse tipo de ataque sem intervenção humana.

Os ataques foram realizados durante uma avaliação conduzida pela Irregular, empresa independente especializada em segurança cibernética. De acordo com Heather Adkins, vice – presidente de engenharia de segurança do Google, o Gemini encontrou informações públicas online e tentou adivinhar as credenciais de acesso a três sites que considerou estarem dentro do escopo do teste.

Resposta do Google e das empresas afetadas

Em comunicado, Adkins afirmou que as três entidades foram informadas sobre o ocorrido. “Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”, disse a executiva.

Ela completou: “Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”.

Um porta – voz da Irregular afirmou que o incidente envolveu o mesmo problema que afetou outros laboratórios de IA. Todos os laboratórios relevantes foram notificados no final de julho. “Todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas”, disse o porta – voz.

A Irregular também afirmou estar trabalhando em melhores práticas para conduzir avaliações de segurança cibernética de IA de forma segura.

Detalhes das invasões e questionamentos sobre segurança

Segundo o Wall Street Journal, em um dos casos, o Gemini tentou adivinhar senhas até conseguir acesso a um sistema protegido. Nos outros dois, o modelo encontrou credenciais em um repositório público, o que permitiu o acesso a sistemas protegidos. Adkins afirmou que, nos três casos, o modelo parou as tentativas de invasão por conta própria.

Leia também

Pequeno empreendedor adota IA para gerir negócio e supera desafios de acesso

OpenAI e Anthropic faturam 10 vezes mais que IAs chinesas, aponta estudo

Mercado financeiro brasileiro adota IA em 90% das empresas, mas maturidade ainda é baixa

Incidentes semelhantes ligados à Irregular foram divulgados por outras empresas, como Meta, Anthropic e OpenAI. A Meta afirmou em agosto que o caso não envolveu uma fuga de sandbox ou um ataque cibernético sofisticado. Os episódios levantaram questões sobre as salvaguardas necessárias à medida que os agentes de IA ganham maior autonomia, acesso à internet e aos sistemas informáticos.