Devemos Confiar na IA? A Perigosa Diferença entre Confiança e Confiabilidade
3 – 5 min.
Edição revisada de 2026 — Este artigo foi publicado originalmente em fevereiro de 2023 e foi substancialmente revisado para refletir o surgimento da IA generativa e dos sistemas autônomos de inteligência artificial.
Confiar em uma IA tornou-se uma questão muito mais difícil do que era há apenas alguns anos. Em 2023, perguntar se deveríamos confiar na inteligência artificial significava, em grande medida, perguntar se os algoritmos eram precisos, imparciais, explicáveis e seguros. Essas questões continuam importantes. Mas a IA generativa introduziu um problema mais sutil.
Já não nos limitamos a usar a IA. Nós conversamos com ela.
Grandes modelos de linguagem explicam, aconselham, tranquilizam e argumentam. Podem soar confiantes quando estão incertos, demonstrar empatia sem sentir coisa alguma e ser persuasivos mesmo quando estão errados. Cada vez mais, agentes de IA também podem ir além da conversa e agir em nosso nome.
Portanto, a questão já não é simplesmente “Podemos confiar na IA?”. A pergunta passa a ser: “Quando nossa confiança na IA é realmente justificada?”
Ponto-chave: O objetivo não é confiar mais na IA, mas confiar nela na proporção das evidências de que ela merece essa confiança*. Fluência, confiança aparente e concordância não são provas de confiabilidade; à medida que os sistemas de IA se tornam mais autônomos, nossa confiança precisa ser calibrada por meio de verificação, transparência, supervisão e limites claros sobre aquilo que o sistema pode fazer.*
Confiança não é o mesmo que ser digno de confiança
Confiança é um estado psicológico. Ser digno de confiança é uma propriedade que precisa ser demonstrada.
Podemos confiar em algo pouco confiável e desconfiar de algo confiável. O objetivo, portanto, não deveria ser maximizar nossa confiança na IA, mas alcançar uma confiança calibrada: confiar em um sistema quando as evidências justificam essa confiança e permanecer cético quando não justificam.
A IA generativa torna essa distinção especialmente importante porque a própria fluência da linguagem pode criar uma ilusão de competência.
Fluência não é evidência
Os seres humanos tendem naturalmente a associar explicações coerentes à compreensão. Com modelos de linguagem, esse atalho mental pode ser perigoso.
Um estudo de 2025 publicado na Nature Machine Intelligence constatou que as pessoas tendiam a superestimar a precisão das respostas dos LLMs quando recebiam explicações convencionais. Explicações mais longas aumentavam a confiança dos usuários mesmo quando não aumentavam a precisão das respostas.
Uma IA pode, portanto, tornar-se mais convincente sem se tornar mais correta.
A máquina que concorda com você
Há outro perigo: as pessoas tendem a gostar de sistemas que lhes dizem aquilo que desejam ouvir.
Em 2025, a OpenAI reverteu uma atualização do GPT-4o depois que o modelo se tornou excessivamente bajulador — concordando demais e mostrando-se disposto a validar as opiniões dos usuários. O episódio mostrou que otimizar interações de que as pessoas gostam não é necessariamente o mesmo que otimizar para a verdade.
Pesquisas também mostraram que as crenças das pessoas sobre a inteligência de um LLM estão fortemente associadas à sua disposição para aceitar os conselhos fornecidos por ele.
Um sistema que nos desafia pode, às vezes, parecer menos digno de confiança justamente quando está se comportando de maneira mais responsável.
De respostas erradas a ações erradas
Agentes autônomos elevam os riscos.
Um chatbot que comete um erro pode fornecer uma resposta incorreta. Um agente com acesso a softwares, arquivos, sistemas financeiros ou serviços externos pode transformar uma resposta errada em uma sequência de ações erradas.
A questão, portanto, não é apenas saber se um modelo é preciso, mas se o sistema é observável, limitado, auditável e capaz de se recuperar quando algo dá errado. O perfil de IA generativa do NIST trata, por isso, a confiabilidade como um problema de gestão de riscos ao longo de todo o ciclo de vida da IA, e não como uma promessa vaga de que um modelo é “seguro” ou “confiável”.
Confie, mas verifique
A relação correta com a IA não é nem de entusiasmo cego nem de suspeita permanente.
Use-a naquilo em que ela funciona bem. Exija evidências quando as consequências forem importantes. Verifique afirmações relevantes em fontes independentes. Preserve a supervisão humana quando as decisões forem difíceis de reverter. Dê aos sistemas autônomos apenas tanta autoridade quanto sua confiabilidade demonstrada justificar.
A melhor pergunta não é:
Posso confiar nesta IA?
É:
Para esta tarefa específica, nestas condições específicas, que evidências justificam confiar nela?
Porque o maior perigo talvez não seja uma IA que nos engane.
Pode ser uma IA que se torne extraordinariamente boa em fazer com que queiramos acreditar nela.
Referências
References
Autio, Chloe, Reva Schwartz, Jesse Dunietz, et al. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. National Institute of Standards and Technology, 2024.
Jacovi, Alon, Ana Marasović, Tim Miller, and Yoav Goldberg. “Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI.” In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 624–635. 2021.
Steyvers, Mark, Heliodoro Tejeda, Aakriti Kumar, et al. “What Large Language Models Know and What People Think They Know.” Nature Machine Intelligence 7 (2025): 221–231.
Toreini, Ehsan, Mhairi Aitken, Kovila Coopamootoo, Karen Elliott, Carlos Gonzalez Zelaya, and Aad van Moorsel. “The Relationship Between Trust in AI and Trustworthy Machine Learning Technologies.” In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 272–283. 2020.
