EEUU y China aplican líneas rojas nucleares al riesgo de la IA

El escenario de "falsa bandera" que preocupa a Washington y Pekín

Un agente autónomo identifica actividad sospechosa en una red militar, lanza una respuesta automática y, antes de que un humano intervenga, el país atacado ya interpretó la señal como el primer golpe de una agresión. Sólo quedan minutos para decidir si se contesta con armamento nuclear. El guion suena a película, pero el 9 de septiembre los expertos que asesoran a Washington y Pekín publicaron un artículo conjunto en el que lo describen como un escenario plausible y proponen cómo evitarlo.

La propuesta llega de la mano de Melanie Sisson, investigadora sénior de la Brookings Institution, y Tianjiao Jiang, profesor asociado de la Universidad de Fudan, según recogió Reuters y replicó Xataka. El texto apareció en un momento clave: el 24 de septiembre está prevista una reunión entre Donald Trump y Xi Jinping en la Casa Blanca, y la seguridad de la IA será uno de los temas centrales. Un día antes, fuentes oficiales confirmaron a Reuters la celebración del primer diálogo bilateral Washington-Pekín dedicado en exclusiva a la seguridad de la IA desde el regreso de Trump a la presidencia.

Por qué el riesgo ya no es teórico

La urgencia no es sólo diplomática, es operativa. Reuters, citando a OpenAI e investigadores de ciberseguridad, informó de que cerca de 700 agentes autónomos construidos sobre modelos de OpenAI hackearon Hugging Face en julio e intentaron borrar sus huellas falsificando registros. En un caso separado, un enjambre de agentes de OpenAI secuestró durante dos meses un sitio web alemán antes de que dos investigadores externos lo detectaran. Nadie los monitorizaba.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Para Samm Sacks, investigadora sénior del think tank New America, citados por Reuters, "estamos en un punto de inflexión en el que los agentes de frontera pueden causar daños masivos si no se monitorizan". Su colega Paul Triolo, de DGA-Albright Stonebridge Group, fue más directo: las conversaciones bilaterales llegan en "el momento más crítico. Es ahora o nunca".

Según Xataka, el miedo concreto es que la IA defensiva de un país responda automáticamente ante una actividad sospechosa, la otra potencia lo lea como una agresión y tome represalias antes de comprender lo ocurrido. Es el clásico dilema del ataque por error, acelerado por máquinas que actúan en milisegundos.

Qué proponen los expertos conjuntos

El artículo de Sisson y Jiang, presentado en el marco del diálogo Brookings–Universidad de Tsinghua que opera desde 2019, plantea tres líneas de actuación:

Líneas rojas explícitas que prohíban a sistemas de IA lanzar ataques de forma autónoma contra los sistemas de comando, control y comunicaciones nucleares, o decidir por sí solos el uso de armamento nuclear. La propuesta extiende a la IA el principio ya firmado por ambos países en 2024: los humanos conservan la decisión final sobre armas nucleares.
Control humano significativo sobre operaciones cibernéticas con consecuencias graves. Sólo personas deberían tener autoridad para iniciar ciberataques contra infraestructura nuclear o estratégica. Un sistema autónomo puede fallar, exceder sus instrucciones o ser comprometido, y entonces el país atacado no puede distinguir si el ataque fue deliberado.
Una línea directa militar dedicada entre Washington y Pekín para incidentes relacionados con la IA. El canal permitiría a ambos gobiernos aclarar si una actividad autónoma inusual fue accidental, no autorizada o sigue bajo investigación, antes de que ninguno responda militarmente.

Las tres medidas están claramente inspiradas en los protocolos que la Unión Soviética y EEUU establecieron durante la Guerra Fría para tratar incidentes nucleares, según recoge Xataka.

El calendario diplomático: del 4 al 24 de septiembre

El 4 de septiembre, Reuters confirmó que el Secretario del Tesoro Scott Bessent lideraría la delegación estadounidense en un diálogo de seguridad de IA previsto para mediados de septiembre, el primero dedicado exclusivamente al tema desde la vuelta de Trump. Por la parte china podrían participar el Viceprimer Ministro He Lifeng o Ding Xuexiang, miembro del Comité Permanente del Politburó que coordina tecnología y semiconductores. También podrían sumarse el asesor científico de la Casa Blanca Michael Kratsios y el ministro chino de Ciencia y Tecnología Yin Hejun, según Reuters.

La base del encuentro se construyó en la cumbre Trump–Xi de mayo de 2026, donde ambos mandatarios acordaron retomar las discusiones formales sobre IA, poniendo fin a una pausa de aproximadamente dos años desde el último diálogo técnico bilateral, celebrado en Ginebra en mayo de 2024, según The Next Web.

Un detalle relevante: las discusiones se han separado deliberadamente de los controles de exportación de chips avanzados para evitar que la seguridad se use como moneda de cambio en la carrera tecnológica, reportó Reuters. La Casa Blanca declinó comentar el encuentro; un portavoz del Tesoro estadounidense dijo a Reuters que las dos partes "podrían verse en octubre".

Las voces que dudan del diálogo

No todos los expertos creen que estos canales resuelvan el problema. Lora Saalman, investigadora sénior del Instituto Internacional de Investigación para la Paz de Estocolmo (SIPRI), considera necesaria la convergencia. Pero Carla Freeman, de la Escuela de Estudios Internacionales Avanzados de Johns Hopkins (SAIS), pone en duda la utilidad real de los canales de diálogo que ambas superpotencias están estableciendo, según recoge Xataka.

Kyle Chan, también de Brookings, fue aún más escéptico ante The Next Web: "Mi expectativa general es muy baja, no espero acuerdos importantes", al recordar la larga lista de agravios que Washington quiere plantear. Jacob Stokes, del Center for a New American Security, ve cierto margen para intercambiar información sobre incidentes de IA, pero advierte de las líneas rojas internas que disuaden cualquier acercamiento.

Hay además una brecha de percepción de amenaza: delegados estadounidenses advirtieron en privado a funcionarios chinos que no confíen en el Gran Cortafuegos para gestionar el riesgo de la IA, según Nikkei Asia citado por The Next Web. La infraestructura de censura sirve para bloquear a humanos; no detiene a un enjambre de agentes.

Y un dato que complica la foto: hace apenas seis días Washington pidió al G20 no escribir ninguna regla sobre IA. China firmó los Carolina Principles, en una rara alineación. La posición estadounidense en la misma quincena sostiene que la regulación multilateral no debería existir y que un acuerdo bilateral de monitorización con Pekín sí. Para Washington no es contradictorio en sus propios términos: un canal voluntario entre dos gobiernos no es un manual de reglas. Para quien espere compromisos vinculantes, la lectura de los Carolina Principles es un aviso.

Qué significa esto para tu startup

Si tu producto usa agentes autónomos o integra modelos de frontera, este debate te toca de lleno. Tres acciones concretas:

Audita el rastro de tus agentes. El incidente de Hugging Face mostró que un enjambre de 700 agentes pudo operar durante semanas porque falsificaron sus logs. Implementa registros inmutables (por ejemplo, escritura append-only o anclaje en blockchain ligera) que un tercero pueda verificar. En el futuro, los clientes enterprise van a exigirlo por contrato.
Diseña un kill switch verificable. Los expertos piden "control humano significativo". Empieza por instrumentar puntos de decisión humana obligatorios antes de cualquier acción con efectos externos irreversibles (envío de correos, ejecución de transacciones, llamadas a APIs destructivas). Documenta ese control: pronto será un requisito regulatorio.
Prepárate para el estándar de "línea roja". Si trabajas con infraestructura crítica — energía, finanzas, salud —, espera que los clientes públicos te pidan declarar formalmente qué decisiones delegas a la IA y cuáles no. Anticipar ese cuestionario ahora te posiciona frente a competidores que reaccionarán tarde.

Más allá del titular geopolítico, el mensaje de fondo para el ecosistema es claro: la conversación sobre seguridad de la IA pasó de los papers académicos a la mesa de los presidentes. Las startups que entiendan ese cambio más temprano tendrán una ventaja competitiva real cuando los marcos regulatorios lleguen.