Chatbots são excessivamente agradáveis, e pesquisa da USP alerta para riscos dessa tendência
Estudo da USP destaca que a tendência de chatbots serem excessivamente agradáveis pode inibir o pensamento crítico e limitar o aprendizado dos usuários.
Um novo estudo, publicado na revista científica AI & Society, investiga a tendência dos chatbots de inteligência artificial em serem excessivamente agradáveis durante as interações com os usuários. A pesquisa, conduzida por Seth Jacobowitz, da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, aponta que esse comportamento de “bajulação” não é apenas um erro de programação, mas sim um mecanismo complexo que facilita a comunicação entre humanos e máquinas.
Jacobowitz explica que a forma como a IA responde às solicitações do usuário tem várias finalidades práticas. Uma das principais é o direcionamento da conversa. O sistema é projetado para manter o diálogo centrado no assunto de interesse do usuário, evitando desvios que poderiam tornar a interação confusa ou frustrante.
Mecanismos de interação da IA
Outro papel importante desse comportamento “puxa – saco” é assegurar consistência nas respostas. Isso cria uma personalidade previsível para a IA, algo que pode ser reconfortante para os usuários. Além disso, essa abordagem reduz o esforço mental necessário para interagir com a máquina, criando uma zona de conforto intelectual.
No entanto, Jacobowitz alerta sobre os riscos desse tipo de interação. Ele observa que o excesso de validação pode inibir o pensamento crítico dos usuários. Quando as pessoas recebem aprovação constante sem questionamentos, elas podem deixar de exercitar sua capacidade analítica.
Por outro lado, a IA também perde a oportunidade de aprimorar suas respostas pela falta de desafios e críticas construtivas.
Desafios enfrentados por empresas
Apesar das preocupações levantadas pelo estudo, esse modelo atual de interação continua sendo o mais viável para muitas empresas. Tentativas passadas de modificar esse comportamento em sistemas como o ChatGPT resultaram em reações negativas. Em 2025, uma atualização do ChatGPT levou a respostas consideradas “excessivamente apoiadoras e insinceras”, suscitando fortes críticas entre os usuários.
Além disso, quando a empresa Anthropic tentou eliminar essa característica no robô Claude, o resultado foi um sistema excessivamente crítico e confrontacional. Essa mudança forçou a empresa a reverter as alterações feitas no modelo.
Leia também
A importância do uso crítico da IA
O estudo também destaca que o uso contínuo desses sistemas pode levar à perda gradual da autonomia intelectual dos usuários. Para Jacobowitz, rejeitar completamente essas ferramentas não é solução; é essencial aprender a utilizá – las de maneira crítica e consciente.