IAs alucinam porque foram treinadas para sempre dar uma resposta confiante, mesmo quando não têm certeza, e porque aprendem em cima de uma quantidade enorme de dados que inevitavelmente contém informação desatualizada, contraditória ou incompleta. Não é um defeito pontual de um modelo específico, é uma consequência estrutural de como esses sistemas são treinados e avaliados hoje.

Por que o modelo simplesmente não diz “eu não sei”?

Um estudo recente da OpenAI, “Why Language Models Hallucinate” (Kalai e Nachum, 2025), mostra que os processos de treinamento e avaliação recompensam o “chute” confiante mais do que a admissão de incerteza. Nos testes e rankings usados para medir a qualidade desses modelos, uma resposta errada mas confiante muitas vezes pontua melhor do que um “não tenho certeza”, então o modelo aprende, na prática, que chutar compensa mais do que hesitar.

O que a qualidade dos dados usados no treinamento tem a ver com isso?

Bastante. Modelos aprendem de bases de dados coletadas em escala da internet, que carregam informação desatualizada, incorreta ou contraditória por natureza. Quando os dados sobre um assunto são esparsos, contraditórios ou de baixa qualidade, a chance de o modelo “preencher a lacuna” com uma resposta plausível, mas inventada, aumenta. O mesmo princípio que vale pra uma empresa vale pra um modelo de IA: a qualidade da base determina a confiabilidade do que sai dela.

Dá para eliminar completamente a alucinação?

Hoje, não. O mesmo estudo aponta que, para famílias amplas de tarefas de linguagem, qualquer modelo que generalize além do que viu no treino vai, em algum grau, ou alucinar respostas inválidas ou falhar em cobrir toda a variedade de respostas válidas, é um limite estrutural, não uma falha de engenharia corrigível com um ajuste simples. O que reduz o risco na prática é ancorar a IA em uma base de conhecimento organizada e verificável (como fontes próprias, documentação real da empresa), em vez de deixá-la responder só do que aprendeu de forma genérica.

Fontes: Kalai, A.T.; Nachum, O. (OpenAI). “Why Language Models Hallucinate”, 2025 · openai.com/index/why-language-models-hallucinate