Una alucinación de IA casi provoca una guerra con China

El incidente: un informe, dos alucinaciones y militares ya en el aire

En la primavera de 2026, en plena guerra con Irán, un informe clasificado empezó a circular por el aparato militar de Estados Unidos con una conclusión alarmante: un buque chino que navegaba por Oriente Medio transportaba componentes vinculados a un programa de armas nucleares. La respuesta fue inmediata. Tropas armadas se prepararon para abordar el navío y aeronaves militares despegaron para apoyar la operación. Minutos antes de ejecutarla, alguien revisó el documento con más cuidado y descubrió que la carga no era lo que decía el informe: una alucinación generada por un chatbot de IA había subido por toda la cadena de mando sin ser cuestionada.

Una fuente describió el reporte como "completamente falso" y aseguró que casi inicia una guerra, según reportó CNN en exclusiva y replicó TechCrunch el 18 de septiembre de 2026. El episodio se conoce ahora, meses después, porque la cadena de mando lo ocultó durante la primavera boreal.

Cómo se construyó un informe falso con formato oficial

El problema no fue un modelo autónomo ordenando un ataque: fue una secuencia de decisiones humanas tomadas sobre información generada por IA que nadie verificó a tiempo. El rastro, según las fuentes citadas por CNN y por Yahoo News, fue el siguiente:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Un analista del U.S. Special Operations Command Pacific (con sede en Hawái) consultó un chatbot sin identificar —no está claro si era una herramienta comercial o interna— para examinar el manifiesto de carga del buque.
El modelo combinó fuentes abiertas con inteligencia de señales clasificada del gobierno de EE.UU. y llegó a la conclusión explosiva: el barco transportaba material nuclear.
El mismo analista usó la IA otra vez para empaquetar el resultado en un informe con el formato estándar de inteligencia militar, el tipo de documento que los altos mandos consumen sin cuestionar.
La cadena falló dos veces: primero cuando el modelo inventó la carga, segundo cuando el humano presentó la invención como producto terminado.

CNN no pudo determinar qué llevaba realmente el buque ni qué componente específico confundió el sistema, pero sus fuentes sostienen que la identificación era falsa. La causa más probable, coinciden los expertos, no es el barco sino el modelo: inventó un hecho sin anclarlo a evidencia verificable.

Por qué la IA permite "llegar más rápido a una mala idea"

Una de las fuentes lo resumió con una frase que cualquier founder debería grabar a fuego: "AI allows you to get to a bad idea faster". El episodio destapa un mecanismo que ya habíamos visto en casos civiles (citas legales inventadas, referências bibliográficas falsas, datos de mercado que nadie chequeó) pero escalado a decisiones de vida o muerte.

Jake Steckler, research scholar en GovAI y veterano del U.S. Army, lo explicó así a TechCrunch: "Es importante que el personal militar entienda la incertidumbre inherente a los LLMs, pero es crítico para cualquier decisión que pueda terminar en uso de fuerza, como targeting, análisis de inteligencia o planificación operativa. Esas decisiones tienen consecuencias de vida o muerte". Steckler añadió que el incidente debería servir para añadir más salvaguardas a la IA, no para dejar de usarla: "Priorizar velocidad de adopción por encima de todo llevará a incidentes que solo harán que el personal pierda confianza en estos sistemas".

Un ex alto funcionario estadounidense fue más crudo todavía con Yahoo News: "las herramientas internas son básicamente copias de las comerciales con un poco de maquillaje". Es decir, los militares están usando, en el mejor de los casos, los mismos modelos genéricos que cualquier startup usa para redactar emails.

El contexto: una estrategia de IA que prioriza velocidad sobre verificación

El episodio no es un accidente aislado: es el producto lógico de una política explícita. En enero de 2026, el secretario de Defensa Pete Hegseth presentó la AI Acceleration Strategy del Pentágono con un objetivo declarado: "desatar la experimentación, eliminar bloqueadores burocráticos heredados e integrar capacidades de frontera de IA en cada área de misión para inaugurar una era sin precedentes de dominio militar estadounidense", según recogió Defense One.

La estrategia apunta a extender estas herramientas entre los aproximadamente tres millones de empleados civiles y militares del Departamento. Los usos van desde logística y presupuestos hasta análisis de inteligencia y selección de objetivos. El problema, como reveló el informe de CNN, es que la implementación es descentralizada: distintos organismos usan herramientas distintas, con normas y mecanismos de verificación que también varían.

Una fuente militar lo describió sin rodeos: "AI en targeting definitivamente se está acelerando, y no hay una guía real sobre cómo un humano en el circuito prevenga bajas civiles o fratricidio".

Anthropic, OpenAI y la pelea por los límites del uso militar

El caso tiene un paralelo civil-militar que cualquier emprendedor tech debería seguir. Anthropic mantiene desde febrero de 2026 una disputa contractual con el Pentágono por el uso de Claude en armas autónomas y vigilancia masiva. La empresa se negó a retirar las guardrails internas que impiden esos usos, argumentando que los sistemas actuales no son suficientemente fiables. El Pentágono respondió designando a Anthropic como supply chain risk, una clasificación reservada históricamente a entidades extranjeras consideradas amenazas de seguridad nacional.

El 27 de agosto de 2026, la jueza federal Rita Lin del Distrito Norte de California dio la razón a Anthropic: la invocación de seguridad nacional no puede ser un "cheque en blanco para castigar y retaliary contra críticos del gobierno", escribió, según reportó Reuters vía IBTimes. La Corte de Apelaciones del D.C. Circuit tiene un caso paralelo abierto. Mientras tanto, las restricciones del Pentágono siguen vigentes en la práctica para los contratistas, según confirmó el subsecretario de Defensa Emil Michael.

La ironía es evidente: Anthropic peleó precisamente por los límites que el incidente del barco chino demuestra que hacen falta.

Reacción política: tres senadores piden investigación

El informe de CNN provocó que los senadores demócratas Mark Warner, Jack Reed y Chris Coons enviaran una carta a Hegseth exigiendo una investigación inmediata. Su preocupación declarada: que las agencias bajo su supervisión han priorizado "la aceleración de adopción y experimentación con IA por encima de la gobernanza efectiva", según reportó el WSWS citando la carta.

Es interesante (y preocupante) que el énfasis de los senadores no fue el uso militar de la IA en sí, sino el impacto sobre la opinión pública: pidieron "un mayor grado de transparencia pública en los hallazgos finales, dado el impacto que estas fallas percibidas tienen sobre la confianza pública en nuestras misiones de inteligencia y combate".

¿Qué significa esto para tu startup?

Si el aparato militar más financiado del planeta cayó por una alucinación de un chatbot comercial con un poco de maquillaje, tu stack de IA también puede caer. La diferencia es que a ti no te despegará un caza, pero sí te puede salir un reporte a cliente con datos inventados, una decisión de pricing basada en un análisis fabricado, o un due diligence con cifras que no existen.

Tres acciones concretas que puedes implementar esta semana:

Trata cualquier salida de LLM como un borrador, no como un input. El error del Pentágono fue confiar en un documento porque tenía formato oficial. En tu operación, define por escrito qué procesos nunca se automatizan izan sin verificación humana y cuáles sí. Si tocas dinero, contratos o reputación, verificación humana obligatoria.
Mide la tasa de alucinación de tu proveedor con datos propios. No te fíes del benchmark del vendor. Crea un set de 50-100 casos representativos de tu dominio y mide cuántas veces el modelo inventa. Si supera el 5% en tareas críticas, no lo dejes solo.
Separa quién consulta el modelo de quién aprueba el resultado. El analista militar usó IA dos veces sin que un revisor independiente entrara en el circuito. En tu equipo, establece que la persona que recibe la salida de IA no puede ser la misma que la firma. Es caro pero es la única defensa real.

La lección no es "no uses IA". Es: la IA acelera, pero solo si construyes un sistema que pueda equivocarse rápido sin que la equivocación llegue al cliente, al junta directiva o al juzgado. El Pentágono acaba de aprenderlo en la frontera más cara posible. Tú tienes la oportunidad de aprenderlo más barato.