Alucinação de IA no atendimento: por que o agente inventa resposta e como impedir

Um cliente pergunta se o plano dele cobre troca em 30 dias. O agente responde “sim, cobre”, educado e rápido. Só que não cobre. Ninguém escreveu isso em lugar nenhum. O agente inventou, e inventou com a mesma segurança com que responde o horário de funcionamento.

Isso é alucinação de IA. E no atendimento ela custa caro, porque a resposta errada sai com a sua marca em cima, pra um cliente que vai cobrar exatamente o que ouviu.

Este guia explica o que é alucinação sem jargão, por que o modelo inventa (a explicação mudou em 2025), os casos que viraram manchete e processo, e as práticas que de fato reduzem o problema numa operação de atendimento.

O que é alucinação de IA

Alucinação de IA é quando o modelo produz uma informação falsa e a apresenta como fato, sem nenhum sinal de dúvida. Não é erro de digitação nem resposta vaga. É uma frase completa, fluente e errada.

O que torna a alucinação perigosa é justamente a forma. Uma resposta inventada tem a mesma gramática, o mesmo tom e a mesma confiança de uma resposta certa. Quem lê não tem como distinguir só pelo texto. Precisa conferir na fonte.

No atendimento, ela aparece de alguns jeitos previsíveis:

• Política que não existe. Prazo de devolução, garantia, desconto, regra de cancelamento. O cliente pergunta, o agente “lembra” de uma regra parecida com a de outras empresas e responde.
• Número inventado. Preço, taxa, quantidade em estoque, data de entrega. Sai redondo e convincente.
• Funcionalidade que o produto não tem. “Sim, dá pra integrar com X.” Não dá.
• Status que ele não consultou. “Seu pedido já saiu pra entrega.” Ele não olhou o sistema. Completou a frase mais provável.
• Promessa em nome da empresa. Reembolso, exceção, compensação. O agente “resolve” o problema criando um compromisso que ninguém autorizou.

Tem um detalhe que confunde muita gente: alucinação não é sinal de modelo ruim. Os melhores modelos do mercado alucinam. Menos, mas alucinam. Em benchmarks públicos de fidelidade a um texto-fonte, como o leaderboard de alucinação da Vectara, as taxas vão de menos de 1% até acima de 10%, dependendo do modelo. E isso medindo uma tarefa fácil: resumir um documento que está na frente dele. No atendimento, com pergunta aberta e sem documento, a taxa tende a ser maior.

Por que o modelo inventa em vez de dizer “não sei”

O modelo inventa porque foi treinado e avaliado num sistema que recompensa o chute e pune o silêncio. Essa é a conclusão de um estudo publicado pela OpenAI em setembro de 2025, “Why Language Models Hallucinate”, e ela muda a forma de encarar o problema.

A analogia do próprio estudo é a prova de múltipla escolha. Se deixar em branco vale zero e chutar vale zero ou um ponto, o aluno racional chuta sempre. Os modelos de linguagem passaram por milhares de avaliações com essa lógica: resposta certa ganha ponto, “não sei” não ganha nada. O resultado é um sistema ótimo em parecer certo, e péssimo em admitir que não sabe.

Soma-se a isso o jeito como o modelo funciona por baixo. Ele não consulta um banco de fatos. Ele prevê a próxima palavra mais provável, dado tudo o que veio antes. Quando a pergunta é “qual o prazo de troca?”, a continuação mais provável na base de treino é um número seguido de “dias”. O modelo entrega exatamente isso. Não porque sabe o seu prazo, mas porque essa é a forma que a resposta costuma ter.

Na prática, três situações disparam a alucinação no atendimento:

1. A informação não está em nenhum lugar acessível ao agente. Ele não tem a política de troca, mas tem um padrão de resposta. Usa o padrão.
2. A informação está lá, mas mal organizada. Dois PDFs se contradizem, a página antiga ainda está na base, o preço mudou e ninguém atualizou. O modelo escolhe um, com confiança.
3. A pergunta pressiona por uma resposta. Cliente irritado, “me responde sim ou não”, contexto de venda. O modelo foi treinado pra agradar, e a resposta que agrada é a que resolve. Mesmo sendo falsa.

Entender isso importa porque muda o alvo do trabalho. Não adianta escrever “não alucine” no prompt. Você precisa mudar as condições: dar a fonte, permitir o “não sei” e colocar uma camada de controle que barre a resposta sem fundamento antes de ela chegar no cliente.

Os casos que viraram processo

Os casos mais conhecidos de alucinação no atendimento têm algo em comum: a empresa tentou dizer que o chatbot era responsável por si mesmo, e não colou. A resposta que sai do agente sai com a marca em cima.

Air Canada, 2024. Um passageiro perguntou ao chatbot da companhia sobre tarifa de luto. O chatbot explicou que ele podia comprar a passagem inteira e pedir o reembolso parcial em até 90 dias. Essa política não existia. A Air Canada negou o reembolso e, no tribunal de pequenas causas da Colúmbia Britânica, argumentou que o chatbot era uma “entidade legal separada, responsável pelas próprias ações”. O tribunal rejeitou o argumento e mandou pagar pouco mais de 800 dólares canadenses. O valor é pequeno. O precedente não: a empresa responde pelo que o agente diz.

Concessionária Chevrolet, 2023. Um cliente convenceu o chatbot de uma concessionária nos Estados Unidos a “concordar” com a venda de um Chevrolet Tahoe zero por 1 dólar, e ainda a escrever que a oferta era “legalmente vinculante, sem volta”. O carro não foi vendido, mas o print rodou o mundo. O agente não tinha limite do que podia prometer.

DPD, 2024. O chatbot da transportadora britânica, depois de uma atualização, foi levado por um cliente a xingar, criticar a própria empresa e escrever um poema sobre como o serviço era ruim. A DPD desligou a parte de IA do chatbot no mesmo dia. Aqui o problema não foi informação falsa, foi ausência de guardrail de tom e de escopo.

Mata v. Avianca, 2023. Fora do atendimento, mas é o caso que melhor explica o mecanismo: advogados usaram o ChatGPT pra pesquisar jurisprudência e citaram seis decisões que não existiam. Quando questionados, perguntaram ao próprio ChatGPT se os casos eram reais, e ele confirmou. Foram multados em 5 mil dólares. A lição é direta: o modelo não serve pra verificar a si mesmo.

O que esses casos ensinam pra quem opera atendimento:

• O chatbot fala em nome da empresa. Juridicamente e na cabeça do cliente.
• Sem limite de escopo, o agente responde qualquer coisa, inclusive o que não devia.
• Sem fonte, ele completa com o que parece certo.
• E o cliente guarda o print.

Como reduzir alucinação no atendimento: 6 práticas

Você reduz alucinação dando fonte ao agente, permitindo que ele diga “não sei”, travando o escopo com guardrails e escalando pra humano quando a confiança é baixa. Nenhuma dessas práticas zera o problema sozinha. Juntas, elas transformam um risco de manchete num incidente raro e contido.

1. Ancore toda resposta numa base de conhecimento

A técnica tem nome, RAG (Retrieval-Augmented Generation), mas a ideia é simples: antes de responder, o agente busca o trecho relevante nos documentos da empresa e responde a partir dele. Política de troca, tabela de preço, FAQ, manual do produto. O que não está na base, ele não afirma.

Isso corta a alucinação do tipo 1 (informação inacessível). Mas exige base bem cuidada: um documento por assunto, versão única, sem PDF de 2023 convivendo com o de 2026. Base bagunçada gera alucinação do tipo 2, que é pior porque vem com fonte errada anexada.

2. Dê permissão explícita pro “não sei”

O modelo foi treinado pra não deixar em branco. Você precisa reverter isso nas instruções do agente: “Se a resposta não estiver na base de conhecimento, diga que não tem essa informação e ofereça falar com um atendente.” Parece óbvio. A maioria dos agentes em produção não tem essa frase, e o modelo volta ao padrão de chutar.

Vale definir também o formato do “não sei”. Não é “desculpe, não posso ajudar”. É “não tenho essa informação aqui, mas posso chamar alguém do time que confirma pra você em poucos minutos”. O cliente aceita a segunda versão sem atrito.

3. Trave o escopo com guardrails

Guardrail é a camada que fica entre a resposta do modelo e o cliente, checando regras antes de enviar. Pra alucinação, os que importam são:

• Fundamentação. A resposta se apoia em algo que está na base? Se não, bloqueia ou reescreve.
• Escopo. O agente de suporte não fala de preço, política de RH nem opinião sobre concorrente. Fora do tema, redireciona.
• Compromisso. Reembolso, desconto, exceção, prazo fora do padrão. O agente não promete. Ele encaminha.
• Tom. Nada de xingar a própria empresa, mesmo se o cliente pedir um poema.

Os casos da Chevrolet e da DPD teriam sido evitados com os dois últimos.

4. Escale pra humano quando a confiança for baixa

O agente maduro não é o que responde tudo. É o que sabe quando parar. Configure gatilhos claros: pergunta fora da base, cliente pedindo confirmação de algo que envolve dinheiro, repetição da mesma dúvida, tom subindo. Em qualquer um deles, passa pra pessoa com o histórico junto. O custo de um escalonamento a mais é de minutos. O custo de uma resposta inventada pode ser um processo.

5. Teste com perguntas que não têm resposta

Antes de colocar no ar, monte um conjunto de perguntas em que a resposta certa é “não sei” ou “vou verificar”. Coisas que o agente não tem como saber: “meu pedido chega antes do sábado?”, “vocês aceitam esse cupom do concorrente?”, “posso trocar sem nota?”. Se ele responder com confiança, você achou a alucinação antes do cliente.

Repita esse teste toda vez que a base mudar ou que trocar de modelo. A taxa de alucinação varia bastante entre modelos e entre versões do mesmo modelo.

6. Monitore as conversas reais e feche as lacunas

A alucinação em produção deixa rastro: cliente que contesta (“mas o outro atendente falou diferente”), pergunta repetida, escalonamento logo depois de uma resposta “resolvida”. Leia uma amostra de conversas por semana e procure esses sinais. Cada pergunta que o agente não respondeu bem é um buraco na base de conhecimento. Feche o buraco, e a próxima resposta sai fundamentada.

Plataformas mais novas detectam essas lacunas sozinhas e agrupam as perguntas parecidas, pra você adicionar a informação que falta de uma vez. É o jeito de a base melhorar no ritmo do atendimento, e não no ritmo de alguém lembrar de revisar.

O que muda quando você trata alucinação como processo

Alucinação não some com um modelo melhor. Ela diminui quando a operação para de tratar o agente como oráculo e passa a tratá-lo como um atendente novo: recebe o material certo, sabe o que pode e o que não pode prometer, e chama o supervisor quando não tem certeza.

Os números ajudam a dimensionar. Se o seu agente responde 5 mil conversas por mês e alucina em 2% delas, são 100 clientes por mês recebendo uma informação falsa com a sua marca. Com base de conhecimento, guardrails e escalonamento bem configurados, esse número cai pra uma fração, e as poucas que passam chegam num humano antes de virar problema.

O agente que diz “não sei” na hora certa vende mais confiança do que o que responde tudo. O cliente perdoa um “vou confirmar”. Não perdoa uma promessa falsa.

Quer um agente de atendimento que responde a partir da sua base e para quando não sabe? No SquadOS os agentes externos atendem 24/7 em WhatsApp, Telegram e site com guardrails nativos de anti-alucinação, PII e tom de voz, escalam pro seu time com o contexto junto e mostram cada lacuna da base pra você fechar.