Como evitar alucinações da IA no atendimento ao cliente: corrija a arquitetura, não o prompt

Você evita alucinações da IA no atendimento ao cliente eliminando o momento em que elas ocorrem: o modelo redigindo uma resposta enquanto o cliente aguarda. A recuperação, as regras de prompt e as barreiras de proteção reduzem a frequência, mas cada uma delas ainda permite que um modelo de linguagem crie os fatos em tempo de execução. A solução duradoura é arquitetônica. Crie e gerencie as respostas no momento em que o conteúdo é inserido, para que a interação em tempo real se torne uma consulta, e deixe que o modelo defina a redação, não os fatos. O Inbenta Encore, a plataforma de IA que prioriza o conhecimento para a experiência do cliente, foi desenvolvido dessa maneira.

Por que a IA do atendimento ao cliente tem alucinações?

Uma alucinação é uma resposta fluente e segura que sua empresa não aprovou. No atendimento ao cliente, ela geralmente parece inofensiva: um prazo para reembolso cinco dias mais generoso do que o permitido, uma taxa que já não existe, uma exceção à política que ninguém registrou.

Isso acontece porque a maioria dos assistentes de IA gera cada resposta sob demanda. Um cliente faz uma pergunta, o sistema extrai qualquer texto que pareça relevante e um modelo de linguagem redige uma resposta a partir dele em tempo real. A geração consiste na previsão da próxima palavra plausível. Quando o texto recuperado está incompleto, desatualizado ou contraditório, o modelo preenche a lacuna com algo plausível — e plausível não é sinônimo de verdadeiro.

O custo recai sobre a empresa, não sobre a modelo. Em fevereiro de 2024, um tribunal canadense considerou a Air Canada responsável depois que um atendente de seu site inventou uma política de reembolso por luto e um cliente confiou nela (Moffatt v. Air Canada, Tribunal de Resolução Civil da Colúmbia Britânica). A companhia aérea argumentou que o atendente era responsável por suas próprias palavras. O tribunal discordou. Para um banco ou uma seguradora com uma central de atendimento de 100 agentes, a mesma falha é um incidente de conformidade, não uma notícia.

O RAG, a engenharia de prompts e os mecanismos de proteção impedem as alucinações?

Elas reduzem a incidência. Mas não eliminam a causa.

A geração aprimorada por recuperação (RAG) fornece ao modelo um texto de origem de melhor qualidade para servir de base à redação. A engenharia de prompts orienta o modelo a permanecer dentro desse texto. Os mecanismos de proteção verificam a saída após ela ser gerada e bloqueiam o que parecer incorreto. Cada camada contribui, e cada uma mantém a mesma etapa: um modelo elaborando uma nova resposta, em tempo real, para um cliente que está aguardando.

Isso significa que você acaba lidando com uma probabilidade. Um sistema que gera 500 mil respostas por mês com uma taxa de erro de 1% ainda produz 5 mil respostas erradas, e um mecanismo de proteção só consegue detectar os erros para os quais foi projetado. O tipo de falha que prejudica as equipes regulamentadas é aquela resposta que parece correta, passa pelo filtro e, mesmo assim, está errada.

O que significa prevenir alucinações por meio da arquitetura?

Isso significa que a resposta existe antes mesmo da pergunta.

Em uma arquitetura que prioriza o conhecimento, o trabalho mais árduo recai sobre a ingestão. Quando o Encore ingere seu conteúdo (PDFs de políticas, páginas da central de ajuda, bibliotecas do SharePoint, documentação de produtos, transcrições de agentes), ele estrutura esse conteúdo em intenções regulamentadas: as perguntas que os clientes fazem, cada uma associada à resposta aprovada e a um link para sua fonte. Em uma montadora automotiva global, uma única ingestão gerou mais de 25.000 intenções em três idiomas a partir de uma fonte exclusivamente em inglês.

Durante a execução, duas etapas são realizadas para cada pergunta do cliente, e nenhuma delas gera a resposta. Primeiro, o sistema associa a pergunta a uma intenção definida. Em seguida, um modelo de linguagem verifica se a pergunta e a resposta associada estão alinhadas e ajusta a redação para que soe naturalmente na conversa. O modelo funciona como um editor, não como um autor. Os fatos provêm dos seus dados.

Como nada é composto do zero, as respostas são geradas de 2 a 3 vezes mais rápido do que em uma chamada padrão de LLM. O maior benefício está no que é eliminado: a etapa em que o modelo inventa uma política. Trata-se de uma prevenção contra alucinações incorporada à arquitetura, e não de uma medida de segurança adicionada posteriormente.

A recuperação determinística faz com que a IA pareça rígida?

Não precisa ser assim. A objeção vem dos sistemas mais antigos baseados em intenção, nos quais cada resposta era um roteiro fixo e os clientes precisavam formular as perguntas da maneira que o desenvolvedor esperava.

Separar os fatos da formulação elimina esse compromisso. A intenção definida determina o que a resposta diz. O modelo de linguagem cuida de como isso é dito, adaptando-se à forma como o cliente se expressa, ao contexto da conversa até aquele momento e ao canal, seja ele chat, voz ou a tela de um agente. Um cliente que pergunta “ainda posso cancelar se meu voo foi ontem” e outro que pergunta “qual é o prazo para cancelamento” recebem a mesma resposta aprovada, redigida de forma adequada para cada um deles.

O que a IA deve fazer quando não tiver uma resposta aprovada?

Diga isso e encaminhe o cliente para um lugar útil.

Muitas alucinações não são, na verdade, erros de conhecimento. São erros de confiança: um sistema criado para responder a qualquer custo produzirá algo mesmo quando não tem nada. O Encore não força uma correspondência fraca. Quando nenhuma intenção programada se encaixa na pergunta, ele repassa a um agente humano ou faz uma pergunta esclarecedora, em vez de improvisar.

Essa lacuna se transforma em dados úteis. O Encore Elevate analisa interações reais em busca de perguntas que não tiveram uma resposta adequada e, em seguida, sugere atualizações de conhecimento, como uma nova intenção, uma fonte ausente ou uma sigla não definida, que sua equipe pode aceitar com um único clique. Perguntas sem resposta se transformam em melhorias de conteúdo, em vez de respostas inventadas.

A revisão humana não resolve o problema das alucinações?

Não na escala de um centro de atendimento.

A revisão humana antes que uma resposta seja publicada parece ser a opção mais segura. Isso deixa de ser viável quando uma única importação pode gerar dezenas de milhares de intenções. Um cliente da versão beta do Encore teve cerca de 40.000 intenções a partir de uma única importação. Uma fila de revisão desse porte é o que faz com que projetos de IA regulamentada fiquem paralisados, e um projeto paralisado não protege ninguém.

O Encore executa automaticamente um abrangente processo de garantia de qualidade antes que qualquer conteúdo seja exibido. O processo inclui análise de conteúdo, melhoria contínua e sugestões de conhecimento, de modo que conteúdos fracos ou contraditórios sejam identificados antes que o cliente os veja. Cada resposta é vinculada à fonte e registrada em um log de auditoria, permitindo que as equipes de risco e conformidade rastreiem qualquer resposta até o conteúdo regulamentado por trás dela. A revisão humana permanece disponível para equipes que a desejarem em tópicos específicos. Trata-se de uma opção, não de uma restrição.

Como saber se sua IA está tendo menos alucinações?

Avalie a precisão em relação a um conjunto de testes definido, em ambiente de produção, ao longo do tempo. Uma alegação de precisão feita por um fornecedor sem um conjunto de testes, uma amostra e um intervalo de tempo não passa de marketing.

Seja qual for a plataforma que você utilize, três indicadores fornecem mais informações do que uma taxa nominal. Acompanhe a porcentagem de respostas que se originam de uma fonte aprovada. Acompanhe a frequência com que o sistema se recusa a responder e encaminha a consulta, em vez de dar uma resposta baseada em suposições. Acompanhe a rapidez com que uma mudança na política chega a cada canal. Se uma taxa for alterada na segunda-feira e seu assistente citar a taxa antiga na sexta-feira, o problema está na arquitetura, não no ajuste.

Por que isso é ainda mais importante em centrais de atendimento regulamentadas

Nos setores de serviços financeiros, viagens e outros setores regulamentados, uma resposta incorreta não é um problema de experiência do cliente. É um problema de divulgação de informações.

A pressão para lançar a IA de qualquer jeito é real. 91% dos líderes de serviços relatam pressão para implementar a IA (Gartner, fevereiro de 2026), e a Gartner prevê que mais de 40% dos projetos de IA autônoma sejam cancelados até o final de 2027. As equipes que chegam à fase de produção são aquelas que conseguem mostrar a um comitê de risco de onde veio cada resposta. A gestão de probabilidades não sobrevive a essa reunião. A rastreabilidade, sim.