O termo Alucinação (Hallucination) descreve um dos desafios técnicos e práticos no uso e desenvolvimento de LLMs.
Em termos simples, uma alucinação ocorre quando o modelo gera uma resposta que é factualmente incorreta, sem sentido ou que não possui suporte nos dados reais, mas é apresentada com um tom de extrema confiança, coerência e autoridade.
Por que as LLMs Alucinam?
Para entender a raiz da alucinação, é preciso desmistificar como esses modelos funcionam. Uma LLM não possui consciência, crenças, e nem sequer sabe o que é a verdade.
- Probabilidade Estatística: Na sua essência matemática, uma LLM é um motor de previsão de próxima palavra (Next-Token Prediction). Ela calcula, dado o contexto atual, qual é o token estatisticamente mais provável de vir a seguir, baseado nos padrões que absorveu durante o treinamento.
- Aparência de Verdade (Plausibilidade): O objetivo principal do modelo é gerar um texto que pareça fluído e correto para um leitor humano. Se a resposta mais provável de ser gerada for factualmente falsa, o modelo a gerará mesmo assim, pois o critério de otimização é a verossimilhança linguística, e não a checagem de fatos em tempo real.
- Compressão Perfeita de Informações: Durante o treinamento, bilhões de dados são compactados nos parâmetros (pesos) da rede neural. Esse processo funciona como uma “compressão com perda” (como converter uma imagem de altíssima resolução em um arquivo JPEG de tamanho reduzido). Detalhes específicos (datas exatas, nomes de meio, números de artigos de leis) frequentemente se perdem nessa compressão, e o modelo tenta “preencher as lacunas” combinando conceitos parecidos.
Tipos de Alucinação
As alucinações podem se manifestar de diferentes maneiras, dependendo da tarefa:
- Alucinação Intrínseca: Ocorre quando o modelo contradiz diretamente as informações fornecidas no próprio prompt de entrada.
- Exemplo: Você anexa um contrato PDF que diz que a multa por rescisão é de R$ 5.000, e o modelo resume dizendo que a multa é de R$ 50.000.
- Alucinação Extrínseca: Ocorre quando o modelo gera uma informação que não pode ser verificada a partir do prompt de entrada. Ele traz um fato “de fora” que é incorreto ou inventado.
- Exemplo: Você pede para ele resumir a biografia de um cientista real, e ele inventa que essa pessoa ganhou o Prêmio Nobel.
- Alucinação de Código e Referências: Muito comum no meio acadêmico e de desenvolvimento. O modelo cria referências bibliográficas plausíveis que nunca existiram (combinando nomes de autores famosos com títulos de artigos inventados) ou cria parâmetros inexistentes de bibliotecas de programação.
O que faz uma LLM Alucinar?
Alguns fatores aumentam a chance de o modelo inventar informações:
- Dados de Treinamento Ruidosos ou Enviesados: Se as fontes de dados originais continham erros ou contradições, o modelo replicará essas incoerências.
- Prompts Ambíguos ou Tendenciosos: Perguntas que já induzem uma resposta falsa costumam fazer a IA concordar com a falsidade (um viés chamado de Sycophancy).
- Exemplo de prompt indutor: “Por que o presidente do Brasil em 2021 assinou a lei de proibição do café?” (A lei nunca existiu, mas o modelo tentará justificar o fato inventado).
- Falta de Contexto Localizado: Quando o modelo tenta responder a perguntas de nicho, privadas ou altamente específicas (como regulamentos internos de uma instituição específica) sem ter acesso a esses documentos. Ele tentará generalizar usando regras comuns da internet.