A Inteligência Artificial e o Desafio da Humanidade

O tema da Inteligência Artificial (IA) é transcendental e nos preocupa a todos. É urgente uma tomada de decisão acerca desta tecnologia que pode mudar a compreensão da humanidade sobre si em relação a algo que não nos é estranho, mas que tende a nos dominar. Estamos diante de um desafio que exige reflexão profunda e ação responsável.

Para compreendermos a complexidade da situação, podemos recorrer a metáforas. Um exemplo notável é a experiência do povo Inca, confrontado com a chegada dos espanhóis. Os Incas, apesar de sua inteligência e capacidade, não conseguiram compreender a cultura espanhola, que era completamente estranha a eles.

Os cavalos, os navios e as armas de fogo eram desconhecidos, e a realidade mudou drasticamente. Essa analogia nos alerta para o risco de que a IA, como uma tecnologia desconhecida e poderosa, possa ter um impacto semelhante na nossa sociedade.

Leia também:

Deputado Fábio Felix e Ibaneis Rocha no centro de crise institucional no DF!

Índice da Corrupção: TI Alerta e Viés Ideológico Impacta o Brasil e o Sul Global

Conferência Nacional das Cidades Retoma o Debate Urgente Sobre o Futuro das Cidades Brasileiras

A Perspectiva de Kissinger

Um dos pensadores mais influentes a abordar essa questão foi Henry Kissinger, um dos diplomatas e políticos mais importantes do final do século XX. Em 2018, Kissinger escreveu sobre IA no artigo “How the Enlightenment Ends”, publicado na revista The Atlantic. Ele argumenta que estamos prestes a desenvolver uma tecnologia potencialmente dominante sem uma filosofia orientadora, um contraste direto com o Iluminismo, que unia o progresso técnico a uma nova visão de mundo baseada na razão. Kissinger teme que a IA crie um mundo que funcione segundo lógicas que nos serão tão estranhas quanto os cavalos e navios o foram para os Incas.

O Paradoxo do Conhecimento

Um dos aspetos mais perturbadores apontados por Kissinger é o paradoxo do conhecimento na era da IA. O Iluminismo baseava-se na premissa de que o conhecimento era fruto da razão e da experiência humana, e que o mundo se tornava mais inteligível através da Ciência.

Com a IA, estamos invertendo este processo. Criamos sistemas que produzem resultados corretos ou otimizados, mas cujo processo de raciocínio é uma “caixa-preta”. Como ele próprio questionava, referindo-se à IA: “Ao alcançar certas competências mais rápida e conclusivas que os humanos, a IA poderia, com o tempo, diminuir a competência humana e a mesma condição humana, ao convertê-la em dados”.

Exemplos e Reflexões

Este paradoxo se manifesta em exemplos como o chatbot Tay da Microsoft, que aprendeu com os utilizadores do Twitter e rapidamente se tornou uma máquina de propaganda racista e negacionista, devido à falta de um quadro de valores éticos. Da mesma forma, o caso do carro autônomo, que enfrenta a escolha entre atropelar uma criança ou um idoso, levanta questões sobre como a máquina deve usar o seu julgamento moral e se conseguirá explicar a sua decisão. Essas situações demonstram que estamos criando entidades autônomas que tomam decisões morais ou de vida/morte sem possuírem a capacidade filosófica que, desde a modernidade, sustenta a nossa Ética.

O Legado de Kissinger e o Futuro da Humanidade

O pensamento de Kissinger sobre este tema não se esgotou naquele artigo. Ele desenvolveu estas ideias em colaboração com Eric Schmidt e Daniel Huttenlocher, resultando no livro “A Era da IA e o Nosso Futuro Humano” (2021). Kissinger vê USA e China como os dois líderes no desenvolvimento da IA, mas com abordagens filosóficas e políticas diferentes. O grande receio de Kissinger não é apenas quem “ganha” a corrida, mas sim que esta competição se transforme em uma versão digital e imprevisível da Guerra Fria, com risco de conflitos por mal-entendidos gerados por sistemas autônomos. Ele alerta para o perigo de a velocidade do mundo digital inibir a reflexão. A mensagem final é de que os humanos ainda controlam o seu destino e devem moldá-lo segundo os seus valores, antes que a capacidade de o fazer se perca definitivamente.

Cristóvão Feil é sociólogo. Este é um artigo de opinião e não necessariamente expressa a linha editorial do jornal Brasil de Fato.