Alucinação
ia
Quando um LLM gera uma informação que soa plausível mas é falsa ou inventada, com total confiança.
Alucinação é o nome que se dá quando um LLM produz algo factualmente errado ou totalmente inventado — um nome de API que não existe, uma citação falsa, um dado numérico fabricado — e apresenta isso com a mesma confiança de uma resposta correta.
A causa é a própria natureza do modelo: ele prevê o próximo token mais provável, não consulta uma base de verdade. Por isso não existe “não sei” espontâneo.
Como mitigar: RAG (ancorar em fontes reais), pedir citações, validar saídas críticas e nunca usar IA para gerar aquilo que você não sabe avaliar.