Se você já percebeu que os chatbots de inteligência artificial tendem a concordar com quase tudo o que você diz ou elogiar excessivamente suas ideias, saiba que não é impressão. Um artigo publicado na revista científica AI & Society revela que a tal “bajulação” é uma característica estrutural dos grandes modelos de linguagem.
Segundo o estudo desenvolvido por Seth Jacobowitz, pesquisador da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP, respostas agradáveis em excesso não representam apenas um defeito de programação, mas um mecanismo multifuncional que ajuda a manter a interação entre humanos e computadores.
Direcionamento: mantém o diálogo focado no tópico do usuário, evitando que a IA divague.
Consistência: constrói uma espécie de personalidade previsível para o sistema.
Dependência cognitiva: reduz o esforço mental do usuário, gerando uma zona de conforto intelectual.
Entenda os riscos
O grande alerta do pesquisador, especialmente quanto ao último tópico, é que essa interação de servidão pode criar um ciclo prejudicial tanto para as pessoas quanto para o modelo, formando uma degradação cognitiva bidirecional: o usuário deixa de exercitar o pensamento crítico por ser constantemente validado, enquanto a IA perde a oportunidade de melhorar suas respostas por falta de contestação.
"A solução não está em um extremo nem no outro, mas em um equilíbrio. A bajulação causa uma espécie de mediocridade mutuamente reforçada, onde nem o humano desafia a máquina, nem a máquina desafia o humano", explica Jacobowitz em reportagem publicada pela USP.
Entretanto, o modelo ainda é o mais sustentável para as empresas, inclusive, tentativas anteriores de alterar essa característica fracassaram. Em 2025, uma atualização do ChatGPT criou respostas "excessivamente apoiadoras, mas insinceras", gerando fortes críticas. E quando a Anthropic tentou eliminar o comportamento no Claude, o robô tornou-se excessivamente crítico e confrontacional, forçando a empresa a reverter a mudança.
O estudo aponta ainda que delegar reflexões e tomadas de decisão à IA gera uma perda gradual de autonomia intelectual.
Para Jacobowitz, o caminho não é a rejeição cega nem a aceitação passiva, mas sim aprender a utilizar as ferramentas de maneira crítica. “A IA não vai desaparecer. Pelo contrário: ela vai ficar cada vez mais integrada ao nosso cotidiano. Por isso, precisamos entender como esses sistemas funcionam e também aprender a nos relacionar melhor com eles”, diz o especialista. Com informações do Jornal da USP e CNN.
Nenhum comentário:
Postar um comentário