OpenAI explica por qué la IA inventa datos: 26% de error

Qué es una alucinación de IA y por qué no es un error cualquiera

Un equipo de investigadores de OpenAI y Georgia Tech le preguntó a un modelo abierto la fecha de cumpleaños de uno de sus propios autores, Adam Tauman Kalai, con una condición: responder solo si la sabía. En tres intentos dio tres fechas distintas. Las tres falsas. El modelo no dijo "no lo sé": se inventó la respuesta con total aplomo.

Ese experimento abre el paper Why Language Models Hallucinate, publicado en septiembre de 2025 y firmado por Kalai, Ofir Nachum y Edwin Zhang (OpenAI) junto a Santosh Vempala (Georgia Tech). OpenAI define las alucinaciones como "afirmaciones plausibles pero falsas generadas por modelos de lenguaje". La palabra que importa es "plausibles": un error absurdo se detecta enseguida, pero una fecha verosímil, una cita bien construida o un enlace con aspecto de real pasan el filtro del lector.

Google lo advierte en su explicador sobre alucinaciones: la falta de fundamentación puede llevar a resultados aparentemente plausibles pero incorrectos, incluso a crear enlaces a páginas web que nunca han existido. Para quien construye producto, la consecuencia es concreta: cuando tu interfaz entrega un dato, el usuario está confiando en una probabilidad, no en un hecho verificado.

¿Por qué el modelo prefiere inventar antes que admitir que no sabe?

El paper identifica dos causas que se suman y que conviene entender por separado.

La primera está en el entrenamiento inicial. Un modelo aprende a predecir texto a partir de enormes cantidades de ejemplos, y generar respuestas válidas equivale a un problema de clasificación: distinguir lo válido de lo erróneo. Hay patrones que se aprenden bien, como la ortografía. Pero hay hechos arbitrarios, sin patrón, que no se pueden deducir. Un cumpleaños es el caso de manual.

De ahí sale una regla incómoda y muy citable: si el 20% de los cumpleaños presentes en los datos de entrenamiento aparece una sola vez, cabe esperar que el modelo base alucine al menos en el 20% de las preguntas sobre cumpleaños. Lo que se ha visto una vez no se distingue bien de lo que nunca se ha visto.

La segunda causa explica por qué el problema no desaparece en las versiones nuevas. Los modelos se evalúan con pruebas que dan un punto por acierto y cero por respuesta en blanco o por "no lo sé". Es un examen tipo test sin penalización: contestar al azar siempre sale a cuenta. Los autores hablan de una "epidemia" de benchmarks que castigan la incertidumbre y concluyen que los modelos están optimizados para ser buenos examinandos, no buenos informadores.

¿Cuánto se equivocan realmente? Las cifras que sí están medidas

Cualquier cifra única miente, porque la tasa de error depende de la tarea. Estos son tres datos con fuente, y el primero es el más revelador.

• SimpleQA (OpenAI, 2025), sobre preguntas factuales cortas: gpt-5-thinking-mini registra un 26% de errores y un 52% de abstenciones; o4-mini, un 75% de errores y apenas un 1% de abstenciones. En aciertos están casi empatados (24% frente a 22%), pero o4-mini se equivoca casi tres veces más porque casi nunca se abstiene. Un ranking que solo mire aciertos premiaría justamente al modelo que más inventa.
• Large Legal Fictions (2024), publicado en el Journal of Legal Analysis, midió preguntas verificables sobre casos judiciales federales de Estados Unidos: alucinaciones entre el 58% (ChatGPT 4) y el 88% (Llama 2). El estudio añade dos hallazgos incómodos: los modelos a menudo no corrigen las premisas erróneas del usuario y no siempre saben cuándo están alucinando.
• Hallucination-Free? (2024), sobre herramientas jurídicas profesionales con recuperación de documentos: entre el 17% y el 33%. Es decir, el RAG baja el error de forma clara, pero está lejos de llevarlo a cero, aunque algunos proveedores del sector prometían evitar las alucinaciones gracias a esa técnica.

La alucinación ya salió del chatbot y llegó al documento publicado

El problema deja de ser teórico cuando el texto inventado se firma. El Financial Times publicó que KPMG retiró de sus plataformas el informe Total Experience: Redefining Excellence in the Age of Agentic AI, difundido en octubre de 2025, después de que varias organizaciones citadas como casos de uso de IA negaran las afirmaciones sobre ellas, según recogió WWWhat's New. Entre las que desmintieron el contenido estaban UBS, el National Health Service del Reino Unido, los Ferrocarriles Federales Suizos y Transport for London. La detección la hizo el sistema Hallucination Check de GPTZero, que concluyó que no eran errores de investigación sino alucinaciones puras.

El detalle que debería preocupar a cualquier equipo: el informe era sobre IA agentiva y lo redactó una IA, que fabricó la evidencia que necesitaba para sostener el argumento. El mismo medio señala que el mes anterior EY retiró un informe sobre programas de fidelización con notas al pie falsas.

Hay además un vector de seguridad que ya está activo. Una investigación de Palo Alto Networks recogida por El Español documentó el phantom squatting: los modelos generan dominios que no existen y los atacantes los registran antes que nadie para montar phishing. El equipo de Unit 42 formuló 685.339 preguntas sobre 913 marcas reconocidas y los modelos generaron 2,1 millones de enlaces, de los cuales 13.229 se identificaron como maliciosos y unos 250.000 dominios inventados seguían sin propietario. Los investigadores afirmaron haber podido predecir el uso de esos dominios con una antelación de entre 18 y 51 días respecto de su registro por parte de adversarios.

¿Se pueden eliminar las alucinaciones?

Del todo no; reducirlas, sí. OpenAI sostiene que no son inevitables, porque un modelo puede abstenerse cuando no sabe, y también que la precisión nunca llegará al 100% porque hay preguntas sin respuesta accesible. Su propuesta de fondo no es técnica sino de incentivos: cambiar cómo puntúan las pruebas que dominan las clasificaciones, con instrucciones que fijen un umbral de confianza explícito del tipo "responde solo si tu confianza supera el umbral t, porque los errores penalizan". La empresa afirma que GPT-5 tiene "significativamente menos" alucinaciones, sobre todo al razonar, pero que siguen ocurriendo.

Desde la investigación académica hay otra línea abierta. Un trabajo del King's College de Londres publicado en Physical Review Letters y difundido por Europa Press analizó el "colapso del modelo" —el escenario en que una IA entrenada con datos generados por IA empieza a producir resultados inexactos— y encontró que basta con integrar un solo dato del mundo exterior en el entrenamiento para evitar ese desenlace. Son modelos estadísticos simples, no LLM completos, pero la intuición es trasladable: el contacto con datos reales es lo que sostiene la precisión.

¿Qué significa esto para tu startup?

Si tu producto usa un modelo de lenguaje para responder, resumir o recomendar, la alucinación no es un problema de proveedor: es un riesgo tuyo, porque el usuario te cree a ti. Estas son las palancas que puedes activar esta semana.

• Da permiso explícito para dudar. La guía de Anthropic para reducir alucinaciones indica que permitir al modelo admitir que no sabe algo puede reducir "drásticamente" la información falsa. Un "si no estás seguro, dilo" en el system prompt no es cortesía: es control de calidad.
• Ancla cada afirmación a un texto. Anthropic recomienda pedir citas literales del documento antes de analizarlo y retirar cualquier afirmación que no tenga cita que la respalde. Google recomienda fundamentar los modelos con tus propios datos mediante RAG. En la práctica: si no hay cita, no hay frase.
• Mide abstenciones, no solo aciertos. El dato de o4-mini es el mejor argumento interno que vas a encontrar: un modelo con mejor tasa de acierto puede ser el que más te expone. Añade la abstención correcta a tu evaluación interna.
• Pon revisión humana donde el paper predice más errores. Nombres poco conocidos, fechas, cifras exactas y jurisprudencia son hechos arbitrarios, justo el terreno con más fallos. Ahí no automatices la publicación.
• Verifica los enlaces que emite tu producto. Con el phantom squatting documentado, una URL inventada por el modelo puede convertirse en una estafa real si alguien la registra antes. Si tu asistente recomienda dominios, valídalos contra una lista propia.
• Aplica la misma vara a tu propio contenido de marca. El caso KPMG y el de EY comparten patrón: texto generado, casos de terceros sin verificar, publicación sin auditoría. Si produces informes o estudios de mercado con IA, la verificación con las organizaciones citadas no es opcional.

Conclusión

El mérito del paper de OpenAI no está en la estadística, sino en desmontar una excusa: durante años las alucinaciones se presentaron como un misterio casi inevitable de la tecnología, y la explicación de sus propios investigadores es más prosaica e incómoda. Los modelos inventan en parte porque la industria los ha medido con exámenes que premian inventar. Eso tiene arreglo, pero exige aceptar modelos que dicen "no lo sé" más a menudo y que, en las clasificaciones de siempre, parecerán peores.

Para un founder la lectura es directa. Mientras los benchmarks sigan premiando la respuesta segura antes que la respuesta honesta, la ventaja competitiva no estará en cambiar de modelo: estará en el pipeline de verificación que construyas alrededor. Ese pipeline —citas obligatorias, umbrales de confianza, revisión humana en los puntos ciegos— es hoy más defendible que cualquier salto de versión.

Fuentes

• Por qué la IA se inventa cosas: qué son las alucinaciones (WWWhat's New) (fuente original)
• Why Language Models Hallucinate (arXiv)
• KPMG retiró un informe sobre el uso de IA porque la IA se inventó lo que escribió (WWWhat's New)
• Ataques phishing a través de la IA aprovechando las alucinaciones (El Español)
• Investigadores trabajan para evitar el acúmulo de alucinaciones de la IA (Europa Press)