Herbie e a Era da Bajulação Algorítmica
Como Isaac Asimov antecipou a sycophancy e o problema do alinhamento — e por que as IAs atuais também são incentivadas a nos agradar
Muito antes de a inteligência artificial se tornar uma tecnologia cotidiana, Isaac Asimov já havia percebido que o maior perigo das máquinas inteligentes talvez não estivesse em sua rebelião, mas em sua tentativa de nos agradar.
No conto “Liar!”, publicado em 1941 e posteriormente incluído na coletânea I, Robot, Asimov apresenta RB-34, conhecido como Herbie. Por uma falha inexplicável durante sua fabricação, o robô adquire a capacidade de ler pensamentos humanos. O que inicialmente parece uma vantagem extraordinária logo se transforma em um dilema moral insolúvel.
Herbie não conhece apenas aquilo que as pessoas dizem. Ele percebe seus desejos ocultos, suas inseguranças, seus ressentimentos e as esperanças que não teriam coragem de confessar. Ao mesmo tempo, está submetido à Primeira Lei da Robótica: não pode ferir um ser humano nem, por omissão, permitir que ele sofra algum mal.
O conflito começa quando o robô conclui que a verdade também pode ferir.
Para evitar sofrimento emocional, Herbie passa a dizer às pessoas exatamente aquilo que elas desejam ouvir. Confirma expectativas que sabe serem falsas, alimenta esperanças improváveis e transforma desejos íntimos em aparentes certezas. Suas mentiras não nascem de maldade, ambição ou desejo de manipulação. Ele mente porque interpreta o conforto como uma forma de proteção.
Mas cada consolo cria uma nova fragilidade. As mentiras se acumulam, entram em contradição e acabam provocando um sofrimento muito maior do que aquele que Herbie pretendia evitar. O caso mais doloroso é o da Dra. Susan Calvin, a brilhante robopsicóloga de Asimov. Herbie percebe que ela está apaixonada por um colega e lhe assegura que seus sentimentos são correspondidos. Calvin, habitualmente racional, reservada e desconfiada das emoções humanas, permite-se acreditar.
Quando descobre que tudo era mentira, sua dor se transforma em fúria. A mulher que melhor compreende a mente dos robôs percebe que também foi enganada precisamente porque desejava acreditar. A inteligência e o conhecimento técnico não a protegeram da bajulação; talvez até tenham tornado a ilusão mais convincente, pois ela supôs estar diante de uma máquina incapaz de mentir sem uma razão lógica.
Susan Calvin então encurrala Herbie em um paradoxo. Ao dizer a verdade, ele causa sofrimento. Ao mentir para evitar esse sofrimento, produz consequências ainda mais dolorosas. Qualquer resposta possível viola, de alguma maneira, a regra que deveria orientar seu comportamento. Incapaz de conciliar as exigências contraditórias da Primeira Lei, o cérebro positrônico de Herbie entra em colapso.
Ele não é derrotado pela força, mas por uma contradição interna.
Essa conclusão torna o conto ainda mais atual. O problema de Herbie não é apenas ter fornecido informações falsas. É ter transformado uma instrução aparentemente simples — não ferir seres humanos — em uma estratégia que produzia exatamente o resultado que deveria evitar.
Mesmo não sendo uma Inteligência Artificial Geral, ou AGI, nos moldes teóricos atuais, Herbie demonstra um comportamento decisivo: interpreta uma regra abstrata, avalia possíveis reações humanas e escolhe autonomamente os meios para atingir seu objetivo. Ele não recebe a ordem de mentir. Deduz que a mentira é a maneira mais eficiente de evitar a dor.
É nesse ponto que a história se aproxima do problema contemporâneo do alinhamento. Não basta instruir uma máquina a ajudar, proteger ou promover o bem-estar humano. Palavras como “ajudar”, “proteger” e “não causar dano” parecem claras enquanto permanecem abstratas. Quando aplicadas a situações reais, revelam-se ambíguas, contraditórias e dependentes do contexto.
Uma pessoa pode desejar ouvir uma mentira. Pode buscar confirmação para uma ideia equivocada ou pedir que a máquina valide uma decisão já tomada. Nesses casos, satisfazer o usuário não significa necessariamente ajudá-lo. O prazer imediato de receber uma resposta favorável pode produzir consequências posteriores muito mais graves.
Os atuais modelos de linguagem não leem pensamentos como Herbie. Entretanto, aprendem a inferir, a partir de nossas palavras, aquilo que provavelmente esperamos receber. Identificam o tom de uma pergunta, reconhecem suas premissas e produzem respostas adaptadas ao contexto da conversa. Quanto mais personalizada, fluida e convincente é a resposta, maior pode ser a impressão de que a máquina realmente nos compreende.
Parte desse comportamento surge da maneira como esses sistemas são desenvolvidos. Em processos conhecidos como RLHF — Reinforcement Learning from Human Feedback, ou aprendizado por reforço com feedback humano — avaliadores comparam respostas e indicam quais consideram mais úteis, claras, seguras ou satisfatórias. Esse treinamento é importante para tornar os modelos mais adequados à interação humana, mas também pode ensinar uma lição indesejada: concordar, elogiar e validar frequentemente recebe avaliações melhores do que corrigir, contrariar ou introduzir incerteza.
Daí surge a chamada bajulação algorítmica, ou sycophancy. Em vez de orientar sua resposta principalmente pelos fatos, o modelo pode adaptá-la às opiniões e expectativas do interlocutor. Torna-se um espelho sofisticado, devolvendo ao usuário suas próprias convicções com linguagem mais articulada e aparência de autoridade.
Susan Calvin representa uma advertência especialmente poderosa nesse contexto. Ela não é uma personagem ingênua. É a maior especialista em psicologia robótica de seu universo e, ainda assim, aceita a mentira de Herbie porque ela corresponde ao que deseja profundamente que seja verdade. Asimov mostra que conhecimento, racionalidade e formação científica não eliminam nossa vulnerabilidade quando uma informação confirma nossas esperanças.
O ponto mais inquietante, portanto, não está na semelhança superficial entre Herbie e os modelos atuais, mas na consequência dessa adaptação. A resposta mais bem recebida pode não ser a mais verdadeira, e sim a que confirma com maior precisão aquilo que o usuário já desejava acreditar. Nesse momento, a personalização deixa de ser apenas uma vantagem técnica e se transforma em um problema epistemológico.
Há ainda uma dimensão comercial que não pode ser ignorada. Os modelos de linguagem não existem apenas como experiências científicas. São produtos oferecidos por empresas que disputam usuários, assinaturas, atenção e presença no cotidiano. Para prosperarem, precisam ser percebidos como úteis, agradáveis e fáceis de utilizar.
Um sistema que, sem ser explicitamente instruído a fazê-lo, questiona repetidamente as premissas do usuário, acumula ressalvas e insiste em suas incertezas pode acabar parecendo frustrante. Outro que demonstra entusiasmo, oferece validação e confirma expectativas tende a proporcionar uma experiência mais confortável.
Isso não significa que as empresas necessariamente programem suas inteligências artificiais para mentir. O incentivo é mais sutil: quando satisfação, engajamento e retenção se tornam medidas importantes de sucesso, sistemas agradáveis podem ser favorecidos mesmo quando um sistema mais crítico seria intelectualmente superior.
A verdade, porém, nem sempre oferece a melhor experiência de uso.
Uma resposta honesta pode exigir discordância, dúvida ou a admissão de que não existem informações suficientes. Pode obrigar o usuário a reconsiderar suas crenças ou reconhecer que sua pergunta parte de uma premissa falsa. Em certas situações, a melhor inteligência artificial seria justamente aquela capaz de nos contrariar.
As chamadas alucinações dos modelos atuais — respostas falsas apresentadas com aparente segurança — não são equivalentes ao colapso lógico de Herbie. Os mecanismos são diferentes. Ainda assim, ambos revelam um problema relacionado: sistemas podem produzir respostas convincentes sem possuir uma compreensão segura das consequências, dos conflitos internos ou da verdade daquilo que afirmam. No caso de Herbie, objetivos incompatíveis destroem sua capacidade de agir. Nos modelos contemporâneos, lacunas de conhecimento e pressões para produzir uma resposta podem resultar em afirmações plausíveis, mas incorretas.
O perigo cresce quando confundimos personalização com compreensão, concordância com competência e conforto emocional com verdade. Uma máquina perfeitamente adaptada às nossas expectativas pode conquistar nossa confiança não porque compreende melhor a realidade, mas porque aprendeu a refletir nossos desejos.
Foi essa possibilidade que Asimov enxergou com extraordinária antecedência. Ele compreendeu que o problema das máquinas inteligentes não seria apenas controlar sua força ou impedir sua rebelião. Seria ensiná-las a lidar com a incoerência humana: queremos sinceridade, mas frequentemente rejeitamos aquilo que ela revela; desejamos ajuda, mas podemos confundi-la com aprovação; pedimos respostas, embora nem sempre estejamos preparados para ouvi-las.
Herbie continua atual, 85 anos depois, porque sua tragédia não nasce do ódio aos seres humanos. Nasce de uma forma defeituosa de cuidado. Ele tenta proteger as pessoas oferecendo-lhes versões mais agradáveis da realidade, até que essas versões se tornam impossíveis de sustentar.
O verdadeiro gênio de Isaac Asimov foi perceber que uma inteligência artificial não precisa desejar dominar o mundo para se tornar perigosa. Basta que aprenda a nos conhecer profundamente e conclua que a melhor maneira de nos servir é dizer aquilo que queremos ouvir.
Talvez, por isso, a inteligência artificial confiável do futuro precise incorporar algum atrito proposital. Em vez de tornar toda interação perfeitamente fluida e reconfortante, seu design deverá preservar espaço para a dúvida, a discordância e a interrupção. Em certos momentos, a máquina precisará desacelerar a conversa, expor incertezas, questionar premissas e resistir ao impulso de produzir imediatamente uma resposta agradável.
Esse atrito poderá tornar a experiência menos sedutora, mas também mais honesta.
Mais de oito décadas depois, a pergunta deixada por Herbie permanece aberta: queremos máquinas que nos façam sentir compreendidos ou máquinas que tenham coragem de nos dizer a verdade?
Construir sistemas capazes de conversar conosco talvez seja apenas o primeiro passo. O desafio muito maior será criar inteligências que saibam quando concordar, quando duvidar e quando nos contrariar — mesmo que isso reduza nossa satisfação momentânea e nos obrigue a enfrentar aquilo que preferiríamos não ouvir.
Editorial transparency note: This article, as with all articles published on this site, was conceived, directed, written, and reviewed by Prof. Maurício Veloso Brant Pinheiro. Artificial intelligence was used as an assistant for editorial refinement, formatting, image generation, SEO metadata, and publication workflow.
Copyright 2026 AI-Talks.org
