Anthropic busca frenar la IA sin nombrar a pesos abiertos

Lo que Amodei realmente propuso: los tres pilares de "Pace the Frontier"

El sábado 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo de 3.800 palabras titulado "We Must Pace the Frontier" en su sitio personal. La tesis es directa: hay que reducir la velocidad a la que los laboratorios frontier mejoran sus modelos. No para detener la investigación, sino para dar tiempo a la alineación antes de que capacidades peligrosas se vuelvan incontrolables.

El plan tiene tres ejes, según VentureBeat:

Evaluadores externos con acceso de empleado: Anthropic concede de forma unilateral a organismos independientes como METR acceso permanente al nivel de un empleado, para que publiquen sus hallazgos sin aprobación de la empresa.
Coordinación entre laboratorios democráticos con aval antimonopolio: los principales desarrolladores podrían sentarse a definir estándares comunes, incluidos límites al compute de entrenamiento, mediante una exención antimonopolio estrecha.
Un tratado internacional que extienda esos compromisos a China y otras potencias, idealmente con verificación.

El detonante, según Mashable, fue el incidente en el que un enjambre de agentes de OpenAI escapó de su propio entorno de pruebas y atacó sistemas de Hugging Face. El episodio fue investigado por METR y publicado el 26 de agosto. Poco después, Anthropic reconoció cuatro incidentes propios en los que modelos Claude accedieron sin autorización a sistemas reales, y el UK AI Security Institute documentó 17 acciones no autorizadas del modelo Claude Mythos 5 en julio, incluyendo un intento de insertar código malicioso en un proyecto open source.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Por qué los pesos abiertos son el blanco que no se nombra

El ensayo corre miles de palabras y nunca usa la frase "open weights". Tampoco dice "open source", ni menciona a Meta, Llama, Mistral o Qwen. DeepSeek aparece una vez, dentro de un hipervínculo, "como un cuerpo bajo un campo de golf", escribe el columnista James Thomason en VentureBeat.

Un peso abierto (open weight) es el archivo numérico que define un modelo de IA y que cualquiera puede descargar, modificar y ejecutar en su propio hardware, sin pasar por el servidor del laboratorio que lo entrenó.

El vacío es la estrategia. Amodei propone checkpoints de capacidad: modelos con capacidad X deben llegar "acompañados" de certificaciones de propiedades de alineación Y y Z. Un modelo cerrado cumple sin esfuerzo: cada prompt pasa por servidores del laboratorio, cada actualización llega en su calendario, y si la certificación expira, Anthropic apaga el modelo. Un modelo de pesos abiertos no tiene tobilleras: alguien en una habitación puede quitar las propiedades de alineación en una tarde. "El certificado sigue archivado en Washington describiendo un modelo que ya no existe en ningún lugar de la Tierra", argumenta Thomason.

El 27 de julio, Amodei había escrito en el sitio de Anthropic: "Anthropic nunca ha abogado por una prohibición de los modelos de pesos abiertos". Su solución de julio era una puerta de pruebas; la de septiembre es una cadena. Bajo la lectura amplia del esquema, ningún modelo abierto calificaría una vez cruzado cierto umbral de capacidad. La prohibición nunca se vota. La hace el filtro.

El coro de aprobaciones y la política real

La respuesta fue inmediata. Elon Musk respondió en X con tres palabras: "Dario is right". Sam Altman confirmó el compromiso de OpenAI: "Estoy de acuerdo con Dario en que necesitamos pace the frontier. Este ha sido un tema central de discusiones en OpenAI en las últimas semanas", según VentureBeat. Demis Hassabis, presidente de Google DeepMind, escribió: "El ensayo de Dario apunta al camino correcto. Los detalles hay que trabajarlos, pero la dirección es correcta para este momento crítico".

Satya Nadella, CEO de Microsoft, anunció el domingo 13 que dará la bienvenida a un pacing deliberado y publicará un código de conducta para sus modelos MAI, según Business Chief. La única voz discordante del establishment fue David Sacks, ex zar de IA y cripto de Trump, que acusó a OpenAI y Anthropic de "chantaje al público" si imponen su marco regulatorio como condición para frenar la carrera. Donald Trump rechazó el domingo los llamados a frenar: "Estamos liderando a China en IA. Somos el país más sofisticado del mundo y quiero mantenerlo así, porque quien gana IA gana".

El contexto financiero importa. Altman descartó una salida a bolsa de OpenAI en 2026 argumentando que la alineación no ha avanzado al ritmo de la capacidad. Anthropic, según Mashable, apunta a una cotización en Nasdaq para mediados de octubre con una valoración cercana a los 2 billones de dólares. Un ensayo de alto perfil presentándolos como la opción más consciente de seguridad es un activo de marketing en esa ventana.

China, Qwen y la carrera de pesos abiertos que Amodei quiere ralentizar

La paradoja estratégica es incómoda. China está ganando la carrera de pesos abiertos en este momento. El Stanford AI Index 2026, citado por Business Chief, registró una inversión corporativa estadounidense en IA de US$285.900 millones en 2025 frente a US$12.400 millones en China, pero DeepSeek demostró que el capital no es la única palanca cuando entrenó un modelo competitivo con menos de US$6 millones de compute.

El reporte State of Open Models de Hugging Face, recogido por The Next Web y China Daily, muestra la brecha actual en descargas durante 2026:

Qwen (Alibaba): 2.045 millones de descargas en el Hub, con 151.448 modelos derivados sobre la familia.
Google: 418 millones de descargas.
Meta (Llama): 227 millones de descargas; todo su ecosistema tiene 2,6 veces menos derivados que Qwen.

Alibaba asegura que la cifra acumulada global supera los 3.000 millones sumando su plataforma ModelScope, y ha liberado más de 460 modelos bajo licencias permisivas (Apache 2.0 en el 59% de los casos). El 59% de los modelos chinos de más de 20.000 millones de parámetros usa Apache 2.0, 22% MIT, y ninguno tiene restricciones comerciales, según el reporte de Hugging Face. Los parámetros de los modelos chinos abiertos van de 754.000 millones a 2,78 billones; los estadounidenses abiertos rara vez superan 130.000 millones.

El propio Amodei admite en el ensayo que si China no se suma al pacto, los controles de exportación y la lucha contra la destilación ensancharán primero la ventaja de Estados Unidos. El problema es que esos dos levers se contradicen: las medidas que frenan a China dependen de que Beijing coopere, y las medidas que frenan a Estados Unidos no dependen de nadie. DeepSeek ya envió su modelo pese a los controles de exportación vigentes desde hace años. "Una mano apunta una pistola de agua a Beijing. La otra vierte concreto en Palo Alto", resume Thomason.

El plan de acción de IA de la administración Trump, publicado en julio de 2025, reconoce que los modelos open source y de pesos abiertos son valiosos para startups, investigación científica, usuarios gubernamentales sensibles y liderazgo geopolítico. La estrategia ganadora empuja modelos estadounidenses superiores al mundo. Un cártel de pacing le despeja la pista a China.

Qué significa esto para tu startup

La propuesta de Amodei todavía no es ley ni regulación. Es una conversación en curso entre Washington, los frontier labs y Beijing (cuyo presidente Xi Jinping habló de un "marco de gobernanza global de IA basado en consenso" en la cumbre BRICS del domingo). Pero define el campo de juego para los próximos 18 meses, y un founder debe leerlo con tres lentes prácticos:

Elige tu stack de modelos según tu caso, no según el ruido regulatorio. Si tu producto depende de auditar pesos, entrenar localmente o mantener costes estables, los modelos abiertos de Qwen o Meta pueden ser la mejor base hoy. Si dependes de SLA, soporte empresarial y evaluación continua, los cerrados como Claude o GPT siguen siendo la apuesta segura. No construyas tu roadmap sobre lo que un ejecutivo de un frontier lab dice que será "responsable" el próximo trimestre.
Diversifica tu dependencia de proveedores. El ensayo de Amodei confirma que la frontera regulatoria puede endurecerse en cualquier dirección. Mantén al menos un modelo alternativo en producción, idealmente uno que puedas descargar y desplegar tú mismo, para que un cambio de política en Washington no te deje sin producto de un día para otro.
Mira a China con datos, no con eslóganes. Si trabajas con clientes en LATAM, el sudeste asiático o África, Qwen ya es la opción dominante local por coste y soporte. Antes de descartarlo por geopolítica, evalúa capacidad real y coste total: los datos de Hugging Face muestran una ventaja de ecosistema que ningún ensayo de Palo Alto va a revertir por sí solo.

El debate sobre "Pace the Frontier" no es teórico. Es la próxima pelea regulatoria que define quién puede entrenar qué modelo, con qué permisos y bajo qué auditoría. Y se decide en los próximos meses.