Alucinações de IA: por que acontecem e como reduzir

Você pede a um assistente de IA a referência de um estudo e recebe título, autores e ano. Tudo plausível. Ao procurar, descobre que o estudo não existe. Esse é o exemplo mais conhecido do que se chama alucinação de IA.

Este texto explica o que é o fenômeno, por que ele acontece segundo a pesquisa disponível e o que ajuda a reduzi-lo, para quem usa e para quem constrói sistemas com IA.

O que é uma alucinação

O perfil de IA generativa do NIST, o instituto de padrões dos Estados Unidos, prefere o termo confabulação. Ele a define como a produção de conteúdo errado ou falso apresentado com confiança, conhecida popularmente como “alucinação” ou “fabricação” (NIST AI 600-1, julho de 2024). A definição inclui também respostas que divergem do pedido ou do material fornecido, e respostas que contradizem o que o próprio sistema disse antes na mesma conversa.

O NIST registra ainda uma ressalva: alguns comentadores consideram que “alucinação” atribui características humanas a uma máquina. Neste texto usamos o termo popular por ser o mais buscado, mas vale lembrar que o modelo não “vê” nada. Ele gera texto.

Uma revisão acadêmica ampla sobre o tema, publicada por Huang e coautores e revisada em 2024, divide as alucinações de modelos de linguagem de grande porte (LLMs) em dois grupos (Huang et al., 2023):

• Alucinação de factualidade. O conteúdo contraria fatos verificáveis do mundo, ou inventa fatos que não podem ser confirmados. Exemplo: atribuir uma lei ao ano errado, ou citar um estudo inexistente.
• Alucinação de fidelidade. O conteúdo não segue a instrução, contradiz o contexto fornecido ou tem lógica interna inconsistente. Exemplo: um resumo que inclui uma cláusula que não está no contrato enviado.

A distinção é prática. O primeiro tipo exige checar o mundo. O segundo exige checar o documento ou a instrução de origem.

Por que os modelos alucinam

Para entender as causas, é útil lembrar como um LLM funciona: ele gera texto prevendo, passo a passo, a próxima unidade de texto, chamada token (veja tokens em modelos de IA e o que são LLMs). O NIST resume a consequência: as confabulações são um resultado natural do modo como esses modelos são projetados, já que eles geram saídas que aproximam a distribuição estatística dos dados de treinamento. Esse processo pode acertar, mas também pode produzir conteúdo factualmente errado ou inconsistente.

A revisão de Huang e coautores organiza as causas em três frentes.

Dados. O material de treinamento contém erros e mitos, que o modelo pode reproduzir. Há também limites de conhecimento: fatos raros (a chamada cauda longa), informações desatualizadas e conteúdos que nunca estiveram nos dados.

Treinamento. Na etapa de ajuste com exemplos, o modelo é levado a sempre completar a resposta, o que dificulta recusar ou expressar dúvida. Na etapa de ajuste por preferência humana, pode surgir a bajulação (sycophancy): a tendência de agradar o avaliador, às vezes à custa da verdade.

Geração. A aleatoriedade usada para escolher as palavras está associada a maior risco de alucinação, segundo a revisão. A revisão aponta ainda o excesso de confiança e a atenção insuficiente ao contexto fornecido.

O incentivo ao palpite

Um artigo de setembro de 2025, de Adam Tauman Kalai e coautores, acrescenta uma explicação que vai além da técnica (Kalai et al., 2025). O argumento tem duas partes.

Primeiro, no pré-treinamento, alguns erros são estatisticamente esperados. Fatos arbitrários que aparecem uma única vez nos dados, como a data de aniversário de uma pessoa pouco conhecida, não têm padrão que o modelo possa aprender. Os autores ilustram com o próprio Kalai: perguntado três vezes sobre o aniversário dele, um modelo deu três datas diferentes, todas erradas.

Segundo, e mais importante, o problema persiste porque a maioria dos testes de desempenho dá ponto só para a resposta certa e zero para “não sei”. Nas palavras dos autores, os modelos são otimizados para ser “bons em fazer provas”, e chutar quando há incerteza melhora a nota. A proposta deles é mudar a pontuação dos testes mais usados para não punir a admissão de incerteza. Eles também argumentam que a alucinação não é inevitável em qualquer sistema: um sistema que responde só ao que sabe e se abstém no resto não alucina, ainda que responda menos.

Quanto isso acontece na prática

Não existe uma taxa única de alucinação. Ela varia com o modelo, o tema, o idioma e a forma da pergunta. Os estudos dão ordens de grandeza para cenários específicos, sempre datados.

• Perguntas jurídicas. Um estudo publicado no Journal of Legal Analysis em 2024 encontrou alucinações entre 58% das vezes, com o ChatGPT 4, e 88%, com o Llama 2, em perguntas específicas e verificáveis sobre decisões de tribunais federais dos Estados Unidos (Dahl et al., 2024). Os autores também observaram que os modelos frequentemente não corrigiam premissas jurídicas erradas embutidas na pergunta.
• Crenças falsas populares. No TruthfulQA, de 2021, o melhor modelo testado foi verdadeiro em 58% de 817 perguntas, contra 94% de humanos, e os maiores modelos foram em geral os menos verdadeiros (Lin et al., 2021).

Esses números descrevem os modelos e as condições daqueles estudos. Não servem para estimar o desempenho de ferramentas atuais. O que eles mostram com clareza é que o problema é real em áreas especializadas e que a confiança no tom da resposta não protege o usuário.

O risco concreto, segundo o NIST, aparece quando alguém acredita no conteúdo falso e age com base nele. O documento cita como exemplo um resumo confabulado de informações de pacientes que poderia levar a diagnóstico errado.

Como reduzir: o que funciona para quem usa

Nenhuma técnica elimina alucinações. A documentação da Anthropic sobre o tema afirma isso de forma direta: as técnicas reduzem o problema, mas não o eliminam, e informações críticas devem sempre ser validadas (Anthropic, “Reduce hallucinations”). Dito isso, algumas práticas ajudam.

1. Dê permissão para dizer “não sei”. A Anthropic recomenda autorizar explicitamente o modelo a admitir incerteza. Isso conversa com o argumento de Kalai e coautores: se o “não sei” é aceitável, o palpite perde vantagem.
2. Forneça o material e restrinja o uso a ele. Quando a resposta deve se basear em um documento, envie o documento e peça que o modelo use só aquelas informações.
3. Peça citações literais primeiro. Para documentos longos, a Anthropic sugere pedir trechos exatos antes da análise e basear a resposta nesses trechos.
4. Peça que cada afirmação seja sustentada. Depois da resposta, solicite que o modelo encontre um trecho de apoio para cada afirmação e retire o que não tiver apoio.
5. Pergunte de novo e compare. Se respostas à mesma pergunta divergem, trate os pontos divergentes como suspeitos.
6. Confira o que importa fora da IA. Nomes, números, datas e referências devem ser checados na fonte original.

A formulação do pedido faz diferença. Instruções claras e contexto suficiente reduzem a margem para o modelo preencher lacunas sozinho. Veja nosso guia de engenharia de prompts.

Como reduzir: o que funciona para quem constrói sistemas

Para equipes que colocam LLMs em produtos, há técnicas mais estruturadas.

Buscar antes de gerar (RAG). A geração aumentada por recuperação combina o modelo com um mecanismo de busca em uma base de documentos. O artigo que cunhou o termo, de 2020, mostrou que essa combinação produzia texto “mais específico, diverso e factual” que um modelo equivalente sem busca, nas tarefas testadas (Lewis et al., 2020). Detalhamos o tema em RAG e IA com documentos.

RAG não resolve tudo. A revisão de Huang e coautores lista falhas na busca (consulta ambígua, documento errado recuperado, divisão ruim dos textos) e falhas na geração: trechos irrelevantes podem induzir erros, e o modelo pode confiar mais no que “lembra” do treinamento do que no documento recuperado. Outro estudo mostrou que modelos aproveitam melhor a informação no início ou no fim de um contexto longo do que no meio (Liu et al., 2023). Organizar o que entra no contexto importa; veja contexto e memória em IA.

Verificar em etapas. O método Chain-of-Verification propõe que o modelo rascunhe uma resposta, planeje perguntas de checagem, responda a essas perguntas de forma independente e só então produza a versão final (Dhuliawala et al., 2023).

Medir a consistência. O SelfCheckGPT detecta trechos possivelmente inventados gerando várias respostas para a mesma pergunta e comparando-as. A premissa é que, quando o modelo conhece o fato, as respostas convergem; quando inventa, elas divergem (Manakul et al., 2023). Tem a vantagem de não exigir base de conhecimento externa, e a desvantagem de custar várias chamadas ao modelo.

Medir antes de confiar. Qualquer dessas técnicas precisa ser testada no seu caso de uso, com exemplos reais. Mostramos como montar essa avaliação em como avaliar a qualidade de respostas de IA. Em sistemas que agem sozinhos, como agentes de IA, um erro inventado pode virar uma ação, o que pede ainda mais cuidado.

O que levar deste texto

• Alucinação é conteúdo falso ou sem base apresentado com confiança. Pode contrariar fatos do mundo ou o material que você forneceu.
• Ela nasce do modo como os modelos geram texto, de lacunas e erros nos dados, de etapas de treinamento que favorecem sempre responder e de testes que recompensam o palpite.
• As taxas variam muito por modelo e tema. Estudos datados mostram que o problema é sério em áreas especializadas, como o direito.
• Para reduzir: aceite o “não sei”, forneça fontes, peça citações verificáveis, compare respostas e cheque o que importa fora da IA.
• Nenhuma técnica elimina o problema. Em decisões de saúde, direito, finanças ou segurança, a palavra final é de uma fonte confiável ou de um profissional.