Alucinações de IA: o que são e como checar respostas do ChatGPT

Uma alucinação de IA é uma resposta confiante e fluente de um chatbot como ChatGPT, Gemini ou Claude que é falsa ou sem respaldo, por exemplo uma citação inventada, um link quebrado ou uma data errada. Ela acontece porque os modelos de linguagem geram texto prevendo as palavras mais prováveis, em vez de consultar fatos. Para checar uma resposta de IA, confira cada fonte, link, número e citação em um original independente antes de confiar nela.

Chatbots são úteis para redigir, resumir e explicar, e a maior parte do que dizem sobre assuntos comuns está correta. O problema é que as respostas erradas têm exatamente a mesma aparência das certas. Este guia explica de onde vêm as alucinações, as formas que costumam assumir e uma rotina prática para checar uma resposta.

Por que os grandes modelos de linguagem alucinam

Eles preveem o próximo token

Um grande modelo de linguagem (LLM, na sigla em inglês) é treinado com uma enorme quantidade de texto para prever o próximo pedacinho de texto, chamado token, dado tudo o que veio antes. Diante de uma pergunta, ele produz a continuação que melhor se encaixa nos padrões que aprendeu. Quando os dados de treinamento continham a resposta muitas vezes, a continuação mais provável costuma estar correta. Quando não continham, o modelo ainda assim produz a continuação com aparência mais plausível, porque nada no mecanismo básico diz "pare, eu não sei".

É por isso que as invenções são tão convincentes. Uma referência inventada tem o formato certo: nomes de autores realistas, um periódico que publica naquela área, um ano coerente e um DOI no formato correto. O modelo aprendeu muito melhor como são as citações do que memorizou quais delas existem.

O treinamento recompensa responder

Depois do pré-treinamento, os modelos são ajustados para serem prestativos, e tanto avaliadores humanos quanto benchmarks automáticos tendem a recompensar uma resposta completa em vez de "não tenho certeza". Pesquisadores da OpenAI argumentaram em um artigo de 2025, Why Language Models Hallucinate, que uma avaliação que não dá nenhum crédito a quem se abstém incentiva os modelos a chutar. Os modelos mais novos expressam melhor a incerteza, mas a tendência não desapareceu.

Data de corte do treinamento

O conhecimento de um modelo termina na data de corte do seu treinamento. Quando perguntam sobre acontecimentos posteriores, leis novas, preços atuais ou a versão mais recente de um software, um modelo sem acesso a busca pode descrever uma situação antiga como se fosse a atual ou preencher a lacuna com um palpite.

Sem consulta a fontes por padrão

A menos que o chatbot esteja conectado à busca na web ou a documentos que você forneceu, ele responde só de memória. Não consegue abrir o artigo que está citando nem verificar se uma URL funciona. Mesmo quando tem busca, ele pode interpretar mal uma página, misturar duas fontes ou colar uma citação correta em uma afirmação que a fonte não faz.

Tipos comuns de alucinação

Citações falsas já tiveram consequências reais. No caso americano de 2023 Mata v. Avianca, advogados foram sancionados por apresentar uma petição com decisões judiciais que o ChatGPT havia inventado. Incidentes parecidos foram relatados desde então em outros tribunais e em artigos acadêmicos publicados.

Passo a passo para checar uma resposta de IA

Você não precisa checar cada frase de cada resposta. Ajuste o esforço ao que está em jogo: uma sugestão de receita pede menos cuidado do que uma afirmação médica, jurídica ou financeira, ou qualquer coisa que você vá publicar com o seu nome.

1. Separe as afirmações verificáveis. Liste todas as referências, links, números, datas, nomes e citações diretas. É ali que se esconde a maioria das alucinações e onde a checagem é mais rápida.
2. Resolva todos os identificadores. Abra cada URL, resolva cada DOI em doi.org, consulte cada ISBN e ID do arXiv. Um identificador que falha, ou que leva a outra obra, é um sinal de alerta para a referência inteira.
3. Confirme que cada fonte diz o que se afirma. Um artigo real ainda pode não sustentar a frase à qual foi associado. Leia o resumo, a seção relevante ou o trecho citado.
4. Compare os números com fontes primárias. Vá ao instituto de estatística, ao órgão regulador, ao documento da empresa ou ao estudo original, e não a um blog que repete o dado. Anote a data do número.
5. Rastreie as citações até a origem. Busque as palavras exatas entre aspas. Se as únicas fontes forem coletâneas de frases sem referência original, trate a citação como não verificada.
6. Refaça o raciocínio. Refaça as contas, teste o código em um ambiente real e confira se cada etapa decorre da anterior.
7. Leia lateralmente. Nas afirmações importantes, procure duas fontes independentes e confiáveis que concordem, em vez de confiar em uma só.
8. Remova ou sinalize o que não conseguir verificar. Se uma afirmação não puder ser confirmada, corte-a ou marque claramente que não foi confirmada.

Nosso Verificador de alucinações de IA automatiza as primeiras etapas. Cole uma resposta de IA e ele verifica os DOIs no Crossref, testa se os links funcionam, confere IDs do arXiv e ISBNs, examina as linhas de referência e lista as estatísticas e afirmações factuais que ainda precisam de uma checagem humana. Ele diz quais identificadores são reais; ler a fonte para confirmar que ela sustenta a afirmação continua sendo tarefa sua.

Prompts que reduzem as alucinações

O jeito de perguntar influencia a frequência com que o modelo inventa coisas. Estas técnicas ajudam, embora nenhuma delas torne uma resposta confiável por si só.

• Dê permissão para não saber. Os modelos têm mais chance de admitir incerteza quando ouvem que isso é aceitável.
• Forneça o material de origem. Cole o documento, o relatório ou os dados e peça ao modelo que responda somente a partir deles. É a mudança mais eficaz de todas.
• Peça citações literais. Exigir uma citação curta e textual do material fornecido para cada afirmação facilita enxergar o que não tem respaldo.
• Separe fatos de inferências. Peça ao modelo que indique o que está dito nas fontes e o que é raciocínio dele.
• Evite perguntas indutoras. "Que estudo provou X?" convida o modelo a produzir um estudo. "Há evidências de X?" deixa espaço para um "não".
• Peça menos referências, porém melhores. Pedidos de longas listas de leitura geram mais itens inventados.

Um exemplo de prompt que combina várias delas:

Responda usando apenas o relatório colado abaixo.
Para cada afirmação, inclua uma citação curta e exata do relatório que a sustente.
Se o relatório não contiver a resposta, diga "Não consta no relatório".
Não acrescente referências nem números que não estejam no relatório.

[cole o relatório aqui]

Pedir que o modelo confira a própria resposta anterior pode pegar alguns erros, mas também pode confirmar uma invenção com a mesma facilidade. A autoverificação não substitui abrir a fonte.

Quando ferramentas com busca e recuperação ajudam

Muitos assistentes agora conseguem pesquisar na web ou ler arquivos que você envia antes de responder. Essa abordagem, muitas vezes chamada de geração aumentada por recuperação (RAG, na sigla em inglês), dá ao modelo um texto relevante para trabalhar em vez de depender da memória. Ela ajuda principalmente em:

• acontecimentos recentes, preços e versões lançados depois da data de corte do treinamento;
• perguntas sobre um documento, contrato, política ou conjunto de dados específico que você fornece;
• temas de nicho que apareceram raramente nos dados de treinamento.

O embasamento em fontes reduz as referências inventadas, porque as citações apontam para páginas que de fato foram recuperadas. Mas não garante precisão. A busca pode trazer uma página ruim ou desatualizada, o modelo pode resumi-la errado, ou citar uma página real ao lado de uma afirmação que essa página não faz. Trate as citações de uma resposta embasada como uma lista de leitura para verificar, não como prova.

Quando ter mais cuidado

• Saúde, direito e dinheiro. Os erros têm custos reais, e as regras variam de país para país e mudam com o tempo. Use a IA para entender as perguntas e depois confirme com orientações oficiais ou um profissional qualificado.
• Tudo o que você for publicar ou entregar. O nome na autoria é o seu, não o do modelo. Editores, professores e tribunais tratam referências inventadas como responsabilidade de quem assina.
• Temas de nicho ou locais. Quanto menos se escreveu sobre um assunto na internet, menos o modelo tem em que se basear.
• Pedidos muito específicos. Números exatos de página, citações de processos, artigos de leis e estatísticas precisas são especialmente propensos a invenção.

Se você está revisando um texto produzido por outra pessoa e suspeita que ele foi gerado por IA, nosso guia sobre como saber se um texto foi escrito por IA trata da detecção e de seus limites, e o Detector de IA pode dar mais um indício. Referências que não se conseguem verificar costumam ser uma evidência mais forte do que qualquer pontuação de detector.

Perguntas frequentes

Por que o ChatGPT inventa fontes?

Porque ele gera um texto que se parece com uma resposta provável. Ele aprendeu muito bem o formato das citações, então, quando não tem uma referência real, pode produzir uma com autores, títulos e identificadores plausíveis que não correspondem a nenhuma publicação existente.

Como saber se uma referência dada pela IA é real?

Busque o título exato no Google Acadêmico ou em um catálogo de biblioteca, resolva o DOI em doi.org e confirme se autores, periódico e ano batem. Depois leia o suficiente da fonte para confirmar que ela sustenta a afirmação. Uma ferramenta como o nosso verificador de alucinações consegue testar DOIs, ISBNs, IDs do arXiv e links em lote.

Os modelos de IA mais novos ainda alucinam?

Sim. Os modelos mais novos em geral alucinam menos em perguntas comuns e sabem dizer melhor quando não têm certeza, mas todo modelo atual ainda pode produzir afirmações falsas, principalmente sobre temas de nicho, acontecimentos recentes e pedidos de detalhes exatos.

A busca na web acaba com as alucinações da IA?

Ela as reduz, em especial as fontes inventadas e os fatos desatualizados, mas não as elimina. O modelo ainda pode interpretar mal ou distorcer as páginas que encontrou, então abra as páginas citadas e confira.

Alucinação é o mesmo que mentira?

Não. Mentir implica intenção de enganar. Um modelo não tem intenção; ele produz texto fluente sem uma verificação interna confiável de que esse texto é verdadeiro. O efeito sobre quem lê pode ser o mesmo, e é por isso que a verificação importa.