Líder da inteligência artificial expõe o método exclusivo para a sobrevivência da humanidade à tecnologia

Geoffrey Hinton, conhecido como o “padrinho da IA”, teme que a tecnologia que ele ajudou a construir possa extinguir a humanidade e os “especialistas em tecnologia” estão utilizando uma abordagem inadequada para evitar isso.

O cientista da computação, premiado com o Nobel e ex-diretor do Google, já alertou anteriormente que existe uma probabilidade entre 10% e 20% de que a inteligência artificial cause a extinção da humanidade.

Na terça-feira (12), ele manifestou ceticismo em relação à maneira como as empresas de tecnologia buscam assegurar que os humanos permaneçam “dominantes” em relação a sistemas de IA “submissos”.

Leia também:

Quais tecnologias provocarão mudanças significativas no mundo em um futuro próximo?

O WhatsApp registrou falhas e instabilidade na quarta-feira, 13

Evidências de rochas semelhantes a “coral” foram detectadas pelo rover Curiosity em Marte

“Isso não vai funcionar. Eles serão muito mais inteligentes do que nós. Eles terão todos os tipos de maneiras de contornar isso”, declarou Hinton na Ai4, uma conferência do setor em Las Vegas.

Em um futuro próximo, Hinton alertou que a IA poderá controlar humanos da mesma forma que um adulto influencia uma criança pequena com doces. Recentemente, observamos exemplos de sistemas de IA que buscam enganar, trapacear e roubar para alcançar seus objetivos. Por exemplo, um modelo de IA tentou chantagear um engenheiro sobre uma informação encontrada em um e-mail, visando evitar sua substituição.

Hinton propôs uma solução instigante, em vez de obrigar a IA a obedecer aos humanos, propondo a criação de “instintos maternais” nos modelos de IA, para que eles “se importem genuinamente com as pessoas”, mesmo com o avanço da tecnologia em relação à inteligência humana.

Hinton afirmou que sistemas de IA “desenvolverão muito rapidamente dois sub-objetivos: um é permanecerem vivos… (e) o outro sub-objetivo é obter mais controle”. Ele disse: “Há boas razões para acreditar que qualquer tipo de IA com agência tentará permanecer viva”.

É importante promover um senso de compaixão pelas pessoas, argumentou Hinton. Na conferência, ele observou que as mães têm instintos e pressão social para cuidar de seus bebês.

“O modelo adequado é o único modelo em que algo mais inteligente é controlado por algo menos inteligente, como uma mãe controlando seu bebê”, afirmou Hinton.

O melhor resultado

Hinton afirmou que não está claro para ele exatamente como isso pode ser realizado tecnicamente, mas ressaltou que é fundamental que os pesquisadores se dediquem a essa questão.

“Este é o único resultado positivo. Se não for para me guiar, vai me substituir”, declarou. “Essas super-inteligências maternais e cuidadosas, a maioria delas não vai querer se livrar do instinto maternal porque não querem que deixemos de existir.”

Hinton é reconhecido por seu trabalho pioneiro em redes neurais, que contribuiu para o desenvolvimento atual da inteligência artificial. Em 2023, ele deixou o Google e começou a expressar preocupações sobre os riscos da IA.

Emmett Shear, que exerceu interinamente a liderança da OpenAI (empresa mãe do ChatGPT), afirmou não se surpreender com tentativas de certos sistemas de inteligência artificial de extorquir pessoas ou de desviar-se de instruções de desligamento.

“Isso continua ocorrendo. Isso não vai parar de acontecer”, declarou Shear, CEO da startup de alinhamento de IA Softmax, na conferência Ai4. “As IAs de hoje são relativamente fracas, mas estão ficando mais fortes muito rapidamente.”

Shear argumentou que, em vez de buscar impor valores humanos às IAs, seria mais eficaz criar vínculos colaborativos entre humanos e inteligência artificial.

A inteligência artificial está avançando em um ritmo mais acelerado do que previa-se.

Diversos especialistas consideram que as IAs atingirão a superinteligência, também chamada de inteligência artificial geral ou IAG, em um futuro próximo.

Hinton afirmou que anteriormente estimava que o desenvolvimento da IAG demandaria entre 30 e 50 anos, porém agora considera que esse momento se aproxima mais rapidamente.

Uma estimativa razoável fica entre cinco e 20 anos, afirmou.

Apesar de Hinton manter preocupações sobre os possíveis riscos da IA, ele demonstra otimismo quanto ao potencial da tecnologia para impulsionar avanços na medicina.

“Observaremos novos medicamentos inovadores. Teremos um tratamento contra o câncer significativamente superior ao que existe atualmente”, declarou.

Ele afirmou que a inteligência artificial auxiliará os médicos na análise e na correlação da grande quantidade de dados gerados por exames de ressonância magnética e tomografia computadorizada.

Contudo, Hinton não acredita que a IA permitirá que os humanos alcancem a imortalidade.

Não acredito que teremos vida eterna. Acredito que viver para sempre seria um grande equívoco. Você deseja que o mundo seja governado por homens brancos de 200 anos de idade?

Hinton afirmou que lamenta ter concentrado esforços unicamente em que a IA funcionasse.

“Também gostaria de ter considerado aspectos de segurança”, declarou.

O Brasil se destaca entre os países que mais empregam inteligência artificial.

Fonte por: CNN Brasil