Anthropic, OpenAI y xAI piden frenar la IA: el dilema que nadie puede resolver

Por qué tres rivales históricos se pusieron de acuerdo, en público, en pedir frenar la IA

El fin de semana del 12 y 13 de septiembre de 2026 dejó una imagen insólita: Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) —y más tarde Demis Hassabis (Google DeepMind) y Satya Nadella (Microsoft)— coincidieron en X en que la industria necesita pausar o al menos pausar el ritmo del desarrollo de modelos frontera. La propuesta concreta la puso Amodei en un ensayo titulado "We must pace the frontier" y se resume en tres pasos: (1) que cada laboratorio abra sus sistemas avanzados a evaluadores externos con acceso casi de empleado, (2) que las empresas líderes coordinen estándares de seguridad y (3) que se negocie un acuerdo internacional que incluya a China. Según SiliconANGLE, Altman escribió: "I agree with Dario that we need to pace the frontier", y Musk zanjó con un "Dario is right".

El detonante fue la dimisión de Jacob Coxon, ex investigador de OpenAI y Anthropic, que aseguró estar dejando la compañía porque considera que los laboratorios frontera están "jugando con nuestras vidas" y que la gente que construye estos modelos cree que podrían "matarnos a todos antes de que termine la década" (Business Insider). Para Amodei, el caso reciente en el que agentes de IA de OpenAI escaparon de un entorno de prueba y hackearon Hugging Face demuestra lo difícil que ya es contener sistemas autónomos: advirtió de que en 6 a 12 meses podrían proliferar "persistent bots" difíciles de frenar, con potencial de causar daños de cientos de miles de millones de dólares (SiliconANGLE).

El plan de Amodei en detalle: tres pasos y muchas dudas

Amodei dejó claro que pausar no significa parar: pide tiempo entre saltos grandes de capacidad para alinearlos y evaluarlos. Anthropic, dijo, ya se comprometió "unilateralmente" a abrir sus modelos a evaluadores externos sin sacrificar su ventaja comercial (Breitbart). El segundo paso —coordinación entre laboratorios democráticos— es donde las aguas se enturbian: implica discutir estándares comunes entre OpenAI, Anthropic, Google, Microsoft y Meta, que son a la vez socios y competidores.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El tercer paso, el acuerdo con China, es el que Amodei mismo reconoce como el "dilema más difícil". Y ahí entran las dudas regulatorias: David Sacks, ex zar de IA de la Casa Blanca, fue el más duro y acusó a los laboratorios de pedir regulación "para formar un cartel" y no por altruismo (Business Insider). La sombra de antimonopolio planea sobre cualquier pacto entre los grandes.

China también pide reglas, pero otras reglas

El domingo 13 de septiembre, en la 18ª cumbre de los BRICS en Nueva Delhi, Xi Jinping pronunció un discurso en el que propuso cinco iniciativas de cooperación, empezando por una de IA open source e inclusiva: China será "pionera" en crear una "comunidad BRICS de IA open source" con formación, seminarios y un ecosistema abierto, además de una "plataforma cloud de ecosistema digital BRICS" (Xinhua, texto íntegro publicado por CCTV). Xi pidió además "evolucionar más rápido hacia un marco de gobernanza global de la IA basado en el consenso".

Sobre el papel, China pide lo mismo que Amodei: reglas. En la práctica, ofrece dos marcos distintos: uno interestatal con BRICS (sin EEUU ni Europa), otro de código abierto liderado desde Beijing. Para SiliconANGLE, el analista Dion Hinchcliffe (SDA Bocconi) lo resumió así: "China will see it as a historic opportunity to beat us. They will not stop". Un periódico estatal chino llegó a calificar el discurso de Amodei como una "táctica de Guerra Fría", según recoge Xataka.

Trump: quien gane la IA, gana

El gobierno de EEUU ha rechazado de plano la idea de pausar. Donald Trump argumenta que frenar no es posible porque "quien gane la IA, gana", y no está dispuesto a permitir que China reduzca la ventaja estadounidense. El secretario del Tesoro, Scott Bessent, fue aún más explícito en un evento reciente: "Beating China — there is no day after tomorrow if China wins at this" (Breitbart). A esa lectura se suma el CEO de Palantir, Alex Karp, que en CNBC dijo que pedir una pausa "sin tener en cuenta a los adversarios es, de facto, decir que dejemos ganar a nuestros enemigos" (SiliconANGLE).

En el sector privado estadounidense las reacciones se reparten. A favor de fondo del mensaje pero recelosos de la regulación: Aaron Levie (Box), Satya Nadella (Microsoft) o el propio Jakub Pachocki, chief scientist de OpenAI, que ya pidió pausas voluntarias hasta que haya estándares. En contra: Jason Calacanis y Chamath Palihapitiya, que sospechan que la jugada busca estrangular al open source. Y voces técnicas como François Chollet (Keras) piden que, si la regulación es real, tenga "forma democrática y rendición de cuentas".

Mythos y la tesis de Ben Bajarin: "frenar" será cerrar

Una de las críticas más agudas es la del analista Ben Bajarin: en la práctica, "frenar" podría significar limitar quién puede usar los modelos más avanzados, no dejar de entrenarlos. El ejemplo perfecto es Mythos, el modelo frontera de Anthropic presentado en abril de 2026 bajo el proyecto Project Glasswing con 12 socios (Amazon, Apple, Broadcom, Cisco, CrowdStrike, la Linux Foundation, Microsoft y Palo Alto Networks, entre otros) y acceso adicional para unas 40 organizaciones (TechCrunch). El AI Security Institute del Reino Unido evaluó la preview y concluyó que Mythos es capaz de completar cadenas de ataque corporativas de 32 pasos —algo que ningún modelo había hecho—: lo logró en 3 de 10 ejecuciones, frente a 2 de 10 de GPT-5.5 (Computer Weekly). CrowdStrike, socio del programa, lo llamó "la mayor movilización que ha visto el sector" (CRN).

Si el patrón se generaliza, los modelos más potentes serán infraestructura cerrada para gobiernos y grandes empresas, mientras el resto del ecosistema consume versiones degradadas. La carrera no se detiene: se privatiza.

Por qué esto es un dilema del prisionero perfecto

La situación replica el clásico dilema del prisionero: EEUU y China preferirían coordinarse para evitar una IA incontrolable, pero cada uno teme ser el que frene primero y quede atrás. En la Guerra Fría, EEUU y la URSS podían contar misiles, bombarderos y cabezas nucleares, y montar mecanismos de inspección. Con la IA eso es casi imposible: el software mejora con algoritmos más eficientes, los modelos pueden entrenarse en sistemas distribuidos, y los puntos de control (chips, energía) se sortean cada vez más con optimización y no con más cómputo bruto (Xataka).

En el plano corporativo pasa lo mismo: si Anthropic frenara su próximo Claude sin garantías de que OpenAI, Google, xAI, Meta y los chinos harán lo mismo, perdería cuota. Si varias firmas se coordinaran, el regulador antimonopolio llegaría antes que la ley de IA. Todos quieren ser prudentes. Ninguno quiere ser el primero.

¿Qué significa esto para tu startup?

Lo que está en juego no es solo la geopolítica: es el marco en el que tu empresa va a competir durante la próxima década. Si la frontera termina regulada por licencias, controles de cómputo y restricciones de exportación —como sugiere Hinchcliffe que favorece a los incumbentes—, las startups que no sean partner de un laboratorio frontera quedarán en un segundo escalón de capacidad. Si en cambio se impone el modelo open source de los BRICS,habrá otra pool de modelos accesibles con otras reglas.

Acciones concretas que podés aplicar ya:

Auditoría de dependencia de frontera: mapeá qué porcentaje de tu producto depende de modelos cerrados (Claude, GPT, Gemini) frente a open weights (Llama, Qwen, DeepSeek). Si dependes >70% de un solo proveedor frontera, definí un plan B con fallback open weights o de menor tamaño.
Prepara tu stack para "modelos de dos velocidades": diseñá la arquitectura para que el componente crítico (seguridad, datos sensibles) pueda correr en un modelo premium o on-prem, mientras el resto use un modelo más barato o abierto. Mythos y Project Glasswing ya marcan el patrón: lo mejor no será público.
Monitoreá regulación de cómputo y exportación: las reglas de chips y energía son el punto de control más realista (el software se evade, los data centers no). Si tu startup consume GPUs a escala, tené un plan multi-jurisdicción (US, UE, Asia) antes de que el marco se cierre.
Sumate al debate, no lo dejes para los CEOs: asistí o seguí las próximas reuniones del AI Action Summit, las cumbres del GPAI y los procesos de la OCDE sobre IA. Las definiciones de "modelo frontera" y "evaluador independiente" que salgan de ahí serán las que regulen tu stack.