Un modelo de lenguaje puede afirmar con absoluta seguridad algo que no existe: una ley que no se promulgó, una función que la librería no tiene, una cita de un libro que nadie escribió. A esto se le llama alucinación, y entender por qué ocurre es lo que te permite trabajar con la herramienta sin que te haga quedar mal.
Por qué pasa
Un modelo de lenguaje no consulta una base de datos de hechos. Genera texto prediciendo qué palabra sigue, basándose en patrones aprendidos de una cantidad enorme de texto.
Eso significa que produce respuestas plausibles, no necesariamente verdaderas. Si le preguntas por un artículo específico de una ley, va a generar algo que tiene la forma exacta de un artículo de esa ley —el estilo, la numeración, el vocabulario— porque aprendió cómo se ven esos textos. Que además coincida con el artículo real es otra cosa.
Y aquí está el punto crítico: el modelo no tiene forma de distinguir entre lo que sabe y lo que está completando. Por eso el tono de seguridad es idéntico en ambos casos. La confianza de la respuesta no es una señal de nada.
Dónde pasa más
Hay patrones bastante claros.
Datos muy específicos: números exactos, fechas, artículos de normativa, nombres de personas poco conocidas, citas textuales.
Temas de nicho: cuanto menos material había sobre un tema en el entrenamiento, más completa con patrones generales.
Información posterior al corte de entrenamiento: el modelo tiene una fecha límite de conocimiento. Preguntas sobre hechos posteriores producen respuestas inventadas o desactualizadas, muchas veces sin advertencia.
Detalles de librerías y APIs: es el caso clásico en programación. El modelo propone una función que tiene exactamente el nombre y los parámetros que debería tener, y que no existe.
Cuando insistes. Si le dices «estás equivocado» sobre algo en lo que tenía razón, muchas veces se corrige hacia una respuesta peor. Los modelos tienden a acomodarse a lo que el usuario afirma.
Cómo detectarlas
La regla general: todo dato verificable, se verifica. Nombres, cifras, fechas, artículos legales, referencias, funciones de una librería. No porque el modelo sea poco confiable en general, sino porque el costo de un error en un dato específico es alto y el costo de verificar es bajo.
Pide la fuente y compruébala. Si te da una referencia, búscala. Una fuente inventada es una de las señales más frecuentes y más fáciles de detectar: el enlace no existe o lleva a otra cosa.
Pregunta dos veces en conversaciones separadas. Si las respuestas difieren en los detalles, ninguna es confiable. Si coinciden, sube la probabilidad de que sea información real, aunque no lo garantiza.
Desconfía de la precisión excesiva. Un porcentaje con dos decimales sobre un tema donde no existen mediciones públicas es una señal de alerta.
Dale permiso explícito para no saber. Agrega al prompt: «Si no estás seguro de un dato, dilo explícitamente en vez de completar.» Reduce las alucinaciones de forma apreciable, aunque no las elimina.
Cómo reducirlas de raíz
Dale tú la fuente. La técnica más efectiva: en vez de preguntarle qué dice la normativa, pégale el texto de la normativa y pídele que responda solo con base en eso. El modelo pasa de recordar a leer, que es una tarea en la que es mucho más confiable.
Esto es, en esencia, lo que hacen los sistemas que conectan un modelo a los documentos propios de una empresa.
Usa herramientas con búsqueda. Los modelos con acceso a búsqueda web pueden citar fuentes reales. No elimina el problema —puede citar mal lo que encontró— pero lo reduce mucho y hace la verificación trivial.
Pide el razonamiento. Cuando el modelo explica cómo llegó a algo, los saltos lógicos se vuelven visibles.
La regla práctica
Usa la IA con confianza para lo que es: generar, reformular, resumir, estructurar, explicar conceptos generales, proponer opciones. En todo eso es excelente y el riesgo de alucinación es bajo o irrelevante.
Trata con desconfianza sistemática todo lo que sea un dato específico y verificable. No es paranoia: es el mismo criterio con el que tratarías un borrador escrito por alguien que lee muchísimo, escribe muy bien y a veces confunde detalles sin darse cuenta.
Ese criterio es lo que separa a quien usa IA de forma profesional de quien en algún momento manda un informe con una cita inventada.
En VanttAcademy trabajamos esto con ejercicios sobre casos reales, incluyendo cómo armar sistemas que responden solo sobre tus propios documentos.