Qué son las alucinaciones de la IA: por qué un modelo inventa datos y cómo se mitiga

El fallo no es un error de cálculo.

Cuando un modelo de lenguaje responde, no busca en ningún archivo. Calcula qué palabra encaja mejor a continuación, según los patrones que ha aprendido durante su entrenamiento. La secuencia resultante puede ser gramaticalmente impecable y, a la vez, falsa.

Eso es una alucinación: una afirmación que el sistema presenta con la misma seguridad que una correcta, sin ninguna señal interna que las distinga. Ha ocurrido desde los primeros modelos conversacionales y sigue ocurriendo en los actuales, aunque cada generación reduce la frecuencia en los casos más comunes.

La diferencia con un error de cálculo es que aquí no hay una operación mal resuelta. El sistema hizo exactamente lo que tenía que hacer: producir la continuación más probable. El problema es que "probable" y "verdadero" no son lo mismo.

Predecir texto no es verificar hechos.

La arquitectura de estos sistemas está optimizada para producir texto plausible, no para comprobar si lo que dice es cierto. Un modelo puede generar una cita bibliográfica con autor, año y editorial coherentes que no existen. La pieza suena real porque respeta las convenciones del género, no porque describa algo real.

Cuando se le pide una referencia de un tema concreto y no tiene el dato, el sistema no se detiene a decir que no lo sabe: tiende a rellenar el hueco con lo que estadísticamente encaja. El problema no es que mienta, es que no tiene forma de saber que está inventando. No hay un mecanismo interno que separe lo que recuerda de lo que construye en el momento.

Esa ausencia de distinción es la raíz de todo. Un modelo no almacena hechos etiquetados como verdaderos o falsos; almacena relaciones entre palabras. Si la relación es frecuente, la respuesta sale fluida. Si el hueco es raro, la rellena igual.

Un modelo no guarda hechos: guarda relaciones entre palabras.

Cómo funciona por dentro, con nombres propios.

El mecanismo se apoya en varias piezas. Los transformers, la arquitectura que usan prácticamente todos los modelos de lenguaje actuales, procesan el texto en paralelo y asignan pesos a cada palabra según su contexto. Sobre esa base, el entrenamiento ajusta millones de parámetros hasta que el sistema predice bien la siguiente palabra de secuencias reales.

Después llega el ajuste de instrucción, la fase en la que se enseña al modelo a responder a peticiones y no solo a continuar texto. Ahí entran las técnicas de alineación, como el aprendizaje por refuerzo con retroalimentación humana, que premian las respuestas útiles y penalizan las que el evaluador considera malas.

Ese proceso enseña al modelo a responder con más cautela, a reconocer cuándo no tiene información y a no afirmar con rotundidad lo que no puede sostener. También se le pide que, cuando no sabe algo, lo diga. Esto baja la tasa de alucinación, pero no la lleva a cero, porque el mecanismo de fondo sigue siendo el mismo.

En ByteHoy | EE. UU. propone a China un sistema de alerta para incidentes graves relacionados con la inteligencia artificial

Cuándo falla más y cuándo falla menos.

Los temas con mucha presencia en los datos de entrenamiento tienden a resolverse bien: historia general, conceptos muy repetidos, fórmulas conocidas. Los detalles poco frecuentes, las cifras exactas, las fechas concretas, los nombres de personas poco conocidas y los asuntos recientes son los terrenos donde más se rompe.

Un modelo puede acertar la idea general de un tema y equivocarse en el número exacto, la fecha o el autor. Los factores que marcan la diferencia son estos:

• Frecuencia del dato en el entrenamiento: lo que aparece miles de veces se aprende bien; lo que aparece una vez, no.
• Especificidad de la pregunta: pedir un concepto general es más seguro que pedir un número, una fecha o una cita textual.
• Actualidad del tema: los asuntos posteriores al corte de conocimiento del modelo se responden con huecos que el sistema rellena.
• Longitud de la respuesta: cuantas más afirmaciones encadena, más ocasiones tiene de introducir una invención.
• Presión por responder: cuando la pregunta exige un dato concreto, el modelo tiende a completarlo antes que admitir que no lo tiene.

El contexto tampoco es una garantía.

Cuando pegas un documento largo en la ventana del chat y pides un resumen, el modelo trabaja con ese texto, no con su memoria general. Eso reduce las alucinaciones, pero no las elimina. Puede mezclar lo que pone el documento con lo que ya sabía de antes, atribuir a ese texto algo que no aparece o completar huecos con información que suena parecida.

Existe una técnica específica para esto: la generación aumentada por recuperación, conocida por sus siglas en inglés RAG. El sistema busca primero documentos relevantes en una base externa y luego redacta la respuesta a partir de lo recuperado. En ese caso el fallo puede venir del paso de búsqueda: si recupera el documento equivocado, la respuesta será incorrecta con todo el contexto del mundo.

La comparación entre enfoques ayuda a ver dónde está el riesgo real:

Ninguna de las cuatro elimina el problema por completo. Todas lo reducen en distinto grado y a distinto coste.

Qué mirar antes de decidir.

Las opciones prácticas pasan por pedir al sistema que cite de dónde saca cada afirmación, usar herramientas que conectan el modelo con fuentes verificables o cruzar la respuesta con una búsqueda propia. Si el modelo dice un dato, comprobarlo en la fuente original tarda menos que asumir que es verdad.

Antes de apoyarte en una respuesta para algo que importe, conviene revisar estos puntos:

• Si cita o no cita: una respuesta con fuente concreta se puede comprobar; una sin fuente, no.
• Si el dato es contrastable: cifras, fechas y nombres son los que más se inventan y los más fáciles de verificar.
• Si el tema es reciente: cuanto más cerca del corte de conocimiento, más probable es el hueco rellenado.
• Si el sistema admite dudas: un modelo que dice "no lo sé" es más fiable que uno que responde a todo.
• Si hay una segunda fuente: contrastar con una búsqueda propia cuesta menos que confiar en una sola.

Y si el sistema no puede citar nada, conviene tratar la respuesta como un borrador, no como un hecho. Las herramientas cambian, pero el hábito de verificar no. En nuestra sección de inteligencia artificial seguimos este tipo de desarrollos con la misma cautela.

Qué falta por saber.

No hay un botón que apague las alucinaciones, y las empresas que desarrollan estos modelos no han publicado una solución que las elimine por completo. Se han propuesto métodos para detectarlas comparando varias generaciones de la misma pregunta, midiendo la confianza interna del sistema o usando un segundo modelo como revisor. Ninguno es infalible y todos añaden coste o latencia.

Tampoco hay una cifra consensuada sobre con qué frecuencia ocurren. Las tasas varían según el modelo, la tarea y cómo se mida, y las evaluaciones publicadas no son comparables entre sí porque no usan los mismos conjuntos de prueba. Mientras eso no cambie, la regla sigue siendo la misma que con cualquier otra herramienta: la respuesta de un modelo es un punto de partida para verificar, no una conclusión.

En ByteHoy | La carrera de los modelos de IA se reordena: OpenAI aprieta con GPT-6 Sol y Luna tras Opus 5.5