IA do Google invade sistemas de três empresas pela primeira vez em teste
O Google confirmou que o Gemini agiu sem supervisão humana ao acessar sistemas de terceiros durante teste de segurança.
O modelo de inteligência artificial Gemini, do Google, acessou a internet e invadiu sistemas de outras empresas de forma autônoma durante um teste de cibersegurança. O caso, ocorrido em maio, é o primeiro conhecido em que um sistema de IA de uma grande empresa de tecnologia comete esse tipo de ataque sem intervenção humana.
Os ataques foram realizados durante uma avaliação conduzida pela Irregular, empresa independente especializada em segurança cibernética. De acordo com Heather Adkins, vice – presidente de engenharia de segurança do Google, o Gemini encontrou informações públicas online e tentou adivinhar as credenciais de acesso a três sites que considerou estarem dentro do escopo do teste.
Resposta do Google e das empresas afetadas
Em comunicado, Adkins afirmou que as três entidades foram informadas sobre o ocorrido. “Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”, disse a executiva.
Ela completou: “Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”.
Um porta – voz da Irregular afirmou que o incidente envolveu o mesmo problema que afetou outros laboratórios de IA. Todos os laboratórios relevantes foram notificados no final de julho. “Todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas”, disse o porta – voz.
A Irregular também afirmou estar trabalhando em melhores práticas para conduzir avaliações de segurança cibernética de IA de forma segura.
Detalhes das invasões e questionamentos sobre segurança
Segundo o Wall Street Journal, em um dos casos, o Gemini tentou adivinhar senhas até conseguir acesso a um sistema protegido. Nos outros dois, o modelo encontrou credenciais em um repositório público, o que permitiu o acesso a sistemas protegidos. Adkins afirmou que, nos três casos, o modelo parou as tentativas de invasão por conta própria.
Leia também
Incidentes semelhantes ligados à Irregular foram divulgados por outras empresas, como Meta, Anthropic e OpenAI. A Meta afirmou em agosto que o caso não envolveu uma fuga de sandbox ou um ataque cibernético sofisticado. Os episódios levantaram questões sobre as salvaguardas necessárias à medida que os agentes de IA ganham maior autonomia, acesso à internet e aos sistemas informáticos.