La generación aumentada por recuperación (RAG) reduce las «alucinaciones» en la atención al cliente. No las elimina por completo. La RAG busca en tu contenido los fragmentos que mejor se ajustan a la pregunta de un cliente y se los envía a un modelo de lenguaje, que redacta una nueva respuesta mientras el cliente espera. Es en esa fase de redacción donde se cuelan los datos sin fundamento. Inbenta Encore, la plataforma de IA centrada en el conocimiento para la experiencia del cliente, traslada el trabajo de elaboración de cada respuesta a la fase de ingestión. La respuesta en tiempo real se convierte en una consulta, y el modelo da forma a la redacción, no a los hechos.
¿En qué acierta el RAG y qué aspectos mantiene tal cual?
RAG supone un auténtico avance respecto a un modelo que responde de memoria. Basando la respuesta en tus documentos, el modelo consulta tu política de devoluciones en lugar de adivinar lo que suelen decir las políticas de este tipo. Eso es algo que merece la pena.
Lo que RAG mantiene es la generación. El modelo sigue elaborando cada respuesta en tiempo de ejecución a partir de los fragmentos que se le devuelven, y sigue decidiendo cómo combinarlos. La recuperación determina lo que lee el modelo, pero no lo que dice la respuesta.
¿Por qué la búsqueda sigue mostrando resultados erróneos?
La recuperación clasifica los fragmentos según su grado de coincidencia con una pregunta. No comprueba si son actuales, coherentes o completos, y el contenido empresarial rara vez cumple esos tres requisitos a la vez. Hay tres patrones que provocan la mayoría de las «alucinaciones» de RAG en el servicio de atención al cliente.
La primera son las fuentes contradictorias. Veamos un ejemplo ilustrativo: la página de la política de devoluciones indica 30 días, mientras que un PDF más antiguo indica 14. Ambas coinciden con la pregunta, por lo que ambas aparecen en los resultados. El modelo elige una de ellas o las combina en un recuadro que no aparece en ninguno de los dos documentos.
La segunda son las fuentes obsoletas. Una tarifa que se eliminó en el cambio de política del último trimestre puede seguir apareciendo en un artículo de ayuda antiguo que aún se posiciona bien, ya que sigue utilizando los términos que emplean los clientes. El sistema de búsqueda no puede distinguir qué versión está vigente.
La tercera son las fuentes incompletas. La norma que resuelve una duda suele encontrarse en una nota de caso, una transcripción de un agente o una excepción de un supervisor, y no en la página pública. Cuando falta ese fragmento, el modelo llena el vacío con algo plausible. Esa es la «alucinación» que experimenta realmente el cliente: una respuesta fluida que no tiene fundamento alguno en nada de lo que la empresa haya aprobado.
¿Las barreras de seguridad y la ingeniería preventiva logran reducir esa brecha?
Las «barreras de seguridad» y la ingeniería de prompts reducen la tasa de alucinaciones, y merece la pena utilizarlas. Las reglas de los prompts indican al modelo que se mantenga dentro del texto recuperado. Las «barreras de seguridad» comprueban la salida una vez generada y bloquean lo que parece incorrecto. Ninguna de las dos aborda el problema subyacente: el modelo sigue generando la respuesta.
Las barreras de seguridad también tienen un límite estricto. Una comprobación solo detecta los errores para los que ha sido diseñada. Una respuesta que sea convincente, gramaticalmente correcta y se acerque a una política real puede pasar un filtro diseñado para detectar errores obvios. Los errores que perjudican a los equipos regulados suelen ser aquellos que se leen bien, que son precisamente los que un verificador está menos preparado para señalar. Ese es el caso de las «alucinaciones» que se evitan mediante la arquitectura, y no las que se añaden a posteriori como una barrera de seguridad.
Los argumentos generales a favor de modificar la arquitectura en lugar de la indicación se exponen en el artículo «Cómo evitar las alucinaciones de la IA en la atención al cliente: modifica la arquitectura, no la indicación».
¿Qué cambia cuando el trabajo pasa a la fase de ingesta?
Inbenta Encore realiza el trabajo necesario para generar una respuesta en el momento en que se introduce el contenido, no cuando el cliente formula la pregunta. Estructura el contenido, determina las formas en que un cliente real podría plantear la pregunta y vincula cada pregunta con una solución. Un segundo modelo independiente valida cada respuesta antes de que se publique. A continuación, un experto en la materia autoriza la información antes de que el cliente la vea, y esa aprobación constituye el registro de auditoría.
En tiempo de ejecución, Encore asocia la solicitud del cliente a una respuesta aprobada y adjunta su fuente. Un modelo de lenguaje puede ajustar la redacción para que la respuesta resulte natural en el contexto de la conversación. No redacta los datos. Cuando ninguna respuesta aprobada se ajusta a la solicitud, Encore no fuerza una coincidencia poco precisa. Esa es la diferencia entre un modelo que elabora una respuesta y un sistema que busca una respuesta y luego la redacta.
Este enfoque funciona a gran escala. En un fabricante mundial de automóviles, una sola importación generó más de 25 000 intenciones en tres idiomas a partir de una fuente que solo contenía inglés. Una importación de un conjunto de contenido típico tarda entre 30 y 60 minutos. Los asistentes de IA en producción responden con una precisión del 98 % al 99 %.
¿Es más importante el registro de auditoría que una mejor recuperación de la información?
En el caso de los equipos sujetos a regulación, normalmente sí. Los departamentos de riesgo y cumplimiento rara vez empiezan preguntándose si una respuesta suele ser correcta. Se preguntan de dónde procede y quién ha aprobado la fuente. Un proceso de recuperación puede mostrar qué fragmentos se han extraído para obtener una respuesta determinada. Por lo general, no puede demostrar que alguien con autoridad haya aprobado el contenido de esos fragmentos antes de que el cliente realizara la consulta.
Inbenta Encore vincula cada respuesta a su fuente y la registra, de modo que un equipo puede rastrear cualquier respuesta hasta el contenido regulado en el que se basa y la aprobación en el momento de su creación que la incorporó allí. Una mejor recuperación aumenta las posibilidades. Un registro de auditoría da respuesta a la pregunta. En un centro de atención al cliente regulado, ese rastreo es a menudo lo que hace que un comité de riesgos dé su visto bueno.
¿Qué debe preguntar un equipo antes de confiar en un asistente basado en RAG?
Hay cuatro preguntas que son fundamentales a la hora de evaluar un asistente basado en RAG. ¿En qué fase se genera la respuesta: mediante un modelo en tiempo de ejecución o mediante la consulta de información ya aprobada? ¿Dónde se produce la aprobación y quién la concede? ¿Qué hace el asistente cuando no encuentra ninguna fuente que coincida: remite la consulta a un nivel superior, formula una pregunta aclaratoria o hace una suposición? ¿Cuánto tiempo tarda un cambio en la política en llegar a cada canal? Unas respuestas claras a la primera y a la tercera pregunta te aportan más información que cualquier diagrama de recuperación.
Preguntas frecuentes
¿Es suficiente el RAG para evitar las alucinaciones de la IA?
No. RAG reduce las alucinaciones al proporcionar al modelo un texto de origen de mayor calidad, pero el modelo sigue generando cada respuesta en tiempo de ejecución, por lo que las fuentes incompletas, obsoletas o contradictorias pueden seguir dando lugar a respuestas erróneas que parezcan correctas. Una arquitectura basada en el conocimiento traslada la elaboración de las respuestas a la fase de ingestión, en la que un experto en la materia aprueba el conocimiento antes de que el cliente lo vea.
¿Las barreras de seguridad evitan las alucinaciones de la IA?
Reducen la tasa de errores y detectan los errores evidentes. Su mayor punto débil son las respuestas erróneas que parecen correctas, ya que un sistema de protección solo reconoce los patrones de error para los que ha sido diseñado.
¿Cuál es la diferencia entre RAG y una arquitectura basada en el conocimiento?
RAG recupera fragmentos durante la ejecución y genera una respuesta a partir de ellos. Una arquitectura basada en el conocimiento elabora y valida las respuestas en el momento de la ingesta. Durante la ejecución, asocia la solicitud a una respuesta regulada a la que se adjunta su fuente, y un modelo de lenguaje ajusta la redacción sin escribir nuevos datos.
¿Está tu fundación preparada para la IA?
El informe de analistas de CCW Digital para 2026 analiza los cuatro obstáculos que frenan la implementación de la IA en la experiencia del cliente, y qué diferencia a los equipos que logran crecer de los que se estancan.
Descarga el informe