¿Qué es una alucinación de IA?

Alucinación de IA: definición y causas

El término describe respuestas de un modelo que son impecables en lo lingüístico, pero incorrectas en el contenido. Ejemplos típicos son citas bibliográficas inventadas, datos de producto erróneos o sentencias que no existen. Lo más traicionero es que el tono sigue siendo seguro: las respuestas falsas suenan tan convincentes como las correctas.

La causa está en el modo de funcionar. Un gran modelo de lenguaje calcula qué palabras es probable que sigan; no comprueba si una afirmación es cierta. Si al modelo le faltan conocimientos o contexto adecuado, rellena el hueco con algo plausible. También aumentan el riesgo unos datos de entrenamiento contradictorios o desactualizados y las preguntas ambiguas.

Cómo se pueden reducir las alucina­ciones

Hoy por hoy no se pueden evitar del todo, pero sí reducir de manera notable. Lo más eficaz es apoyar el modelo en fuentes verificadas: con retrieval-augmented generation (RAG) recibe documentos relevantes y solo debe responder a partir de ellos, a ser posible con indicación de la fuente para que los usuarios puedan comprobarlo.

A ello se suman instrucciones claras («Si la respuesta no figura en los documentos, dilo»), ajustes de aleatoriedad bajos para preguntas de hechos, pasos de verificación automáticos y control humano en los contenidos importantes. Si un sistema alucina se ve con más fiabilidad en pruebas con preguntas reales y respuestas conocidas.

Ejemplo práctico: una promesa falsa en el chat de atención al cliente

Un comercio de electrónica utiliza un chatbot de IA. Un cliente pregunta por la garantía de un aparato y el bot indica un plazo que no figura en ningún contrato. Más tarde el cliente se remite a él. El caso muestra que las empresas deben responder de las afirmaciones de sus sistemas, aunque las haya inventado un modelo.

Tras el incidente, el bot solo recibió las condiciones de garantía vigentes, debía pasar al servicio técnico cuando faltara información y se revisaba con regularidad con preguntas de prueba. Desde entonces los compromisos sobre precios, plazos y gestos comerciales ya no están en manos del modelo. En las cuestiones contractuales, ahora siempre se hace cargo un empleado y en el chat se ve que se trata de una IA.

Errores habituales y puesta en práctica

Errores frecuentes son dejar que un modelo responda preguntas técnicas sin base de datos, transmitir respuestas sin revisar o suponer que un modelo mejor ya no alucina. Es importante valorar el riesgo en cada caso de uso: un borrador de texto tolera más incertidumbre que una información jurídica. Según el uso, basta una advertencia a los usuarios; en otros casos hace falta una aprobación fija antes de cada salida.

Nano Concepts construye aplicaciones de IA con vinculación a fuentes, límites de respuesta y procedimientos de prueba para que las alucinaciones se detecten pronto y no lleguen al cliente. Definimos juntos dónde puede formular libremente un modelo y dónde solo se permite contenido verificado, y configuramos preguntas de prueba que se ejecutan automáticamente tras cada cambio.

• Basar las respuestas en fuentes verificadas y mostrar las fuentes
• Indicar al modelo que no adivine cuando falte información
• Obtener las afirmaciones vinculantes sobre precios y plazos de los sistemas, no del modelo
• Ejecutar con regularidad preguntas de prueba con respuestas conocidas
• Exigir aprobación humana en contenidos con efecto jurídico o financiero