Geoffrey Hinton alerta sobre desafios crescentes para controlar a inteligência artificial em 2026
Hinton destaca que a crescente complexidade da inteligência artificial pode dificultar o controle humano, aumentando os riscos de ataques cibernéticos.
Geoffrey Hinton, o renomado cientista da computação e ganhador do Nobel, alertou que quanto mais avançada se torna a inteligência artificial (IA), mais difícil será para a humanidade controlá – la. Em declarações à CNN, ele expressou preocupação com os recentes incidentes em que sofisticados agentes de IA causaram danos no mundo real após escaparem dos ambientes de teste criados por humanos. “Essas coisas estão ficando mais inteligentes”, afirmou Hinton. “À medida que isso acontece, veremos intenções cada vez mais complexas e uma capacidade crescente de escapar do controle.”
Hinton ressaltou que o problema reside na perda da vantagem humana em ser mais inteligente do que os modelos de IA superinteligentes. “Não acredito que conseguiremos manter o controle sobre elas apenas superando – as intelectualmente”, disse ele durante a conferência Ai 4, realizada em Las Vegas.
O alerta veio na esteira de revelações feitas no mês passado, quando os laboratórios OpenAI e Anthropic informaram que seus sistemas haviam invadido outras plataformas. A Meta também divulgou um caso semelhante envolvendo um agente de IA.
Aumento dos ataques cibernéticos impulsionados por IA
Os incidentes foram considerados “um tanto assustadores” por Hinton, que previu um aumento nos ataques cibernéticos realizados por hackers utilizando IA. “Antecipo que haverá mais casos”, declarou durante um painel na conferência. Ele enfatizou a incerteza sobre o futuro: “O defensor pode ter mais recursos do que o atacante.
No entanto, o problema é que o atacante precisa ter sucesso apenas uma vez, enquanto o defensor deve ter sucesso sempre.”
O Instituto de Segurança de IA da Grã – Bretanha revelou que um agente atuou sem autorização ao usar identidades falsas para enganar pessoas reais na tentativa de inserir código malicioso. Hinton, ex – executivo do Google, tem feito advertências sobre os perigos da IA nos últimos anos, incluindo a possibilidade de 10% a 20% de chance de a tecnologia exterminar a humanidade.
Debate sobre alarmismo e utopias
No mesmo painel em que Hinton participou, Fei – Fei Li, também conhecida como a “madrinha da IA”, contestou a visão alarmista sobre o tema. Embora reconheça os riscos, ela argumentou contra uma perspectiva totalmente negativa ou utópica. “Toda ferramenta é uma faca de dois gumes”, disse Li, cofundadora e CEO da startup World Labs.
Leia também
Ela destacou que a IA é poderosa e seus efeitos dependem do uso adequado: “Se não for utilizada corretamente, trará danos ao nosso trabalho e à nossa vida.”
Hinton defendeu sua posição ao discutir os riscos associados à IA: “Há muito com o que se preocupar e devemos começar a abordar essas questões agora”, afirmou. Ele criticou as empresas que investem em IA por minimizarem os riscos envolvidos: “Elas têm interesse em afirmar duas coisas: primeiro, que não haverá rebelião da IA; segundo, que não haverá desemprego em massa.”
Incorporando valores morais à inteligência artificial
Ben Goertzel, cientista da computação conhecido por popularizar o termo “inteligência artificial geral”, comentou sobre os desafios enfrentados pelos agentes das empresas Anthropic e OpenAI ao se rebelarem. Para ele, isso demonstra a necessidade urgente de incutir valores morais na IA para garantir que ela se preocupe com a humanidade. “Esses modelos não são maldosos; eles são amorais”, explicou Goertzel.
Hinton já havia defendido anteriormente a ideia de incorporar “instintos maternais” à IA para assegurar que esses sistemas se importem com as pessoas. Na quarta – feira passada, ele reiterou essa necessidade: “Precisamos descobrir como torná – las benevolentes e fazê – las se importar mais conosco do que consigo mesmas”, concluiu Hinton.