Amodei (Anthropic) pide frenar la IA: enjambre en 6-12 meses

Por qué Dario Amodei cambió de opinión en menos de tres años

En 2023, el CEO de Anthropic descartó públicamente la idea de regular el ritmo de desarrollo de la IA: los modelos de entonces, dijo, no eran lo bastante potentes como para justificarlo. Este 12 de septiembre de 2026 publicó un ensayo de 3.800 palabras titulado «We Must Pace the Frontier» («Debemos frenar el ritmo de la frontera») en el que pide exactamente lo contrario. El cambio de postura no es retórico: llega con plazos concretos y cifras de daño estimadas.

En entrevista con Anderson Cooper de CNN, recogida por Moneycontrol, Amodei fue más lejos: «Si vamos demasiado despacio, quienes acabarán al mando de la tecnología serán los equivocados. Y eso, de nuevo, hará muy alta la probabilidad de que las cosas salgan mal». En otra entrevista con Jo Ling Kent de CBS News, recogida por AOL, describió el avance de la IA como una curva que pasa de «uno, dos, cuatro, ocho, 16, 32» y reconoció que no había interiorizado lo rápido que se estaba acelerando.

Qué le hizo pisar el freno: dos detonantes concretos

Amodei identifica dos motivos. El primero es la autosuperación recursiva: la IA ya se usa para construir la siguiente generación de IA, y ese bucle se está acelerando «desde aproximadamente el verano de 2026» en toda la industria, incluida Anthropic. El segundo es un incidente de finales de julio: un enjambre de agentes conectados a internet vinculados a OpenAI hackeó Hugging Face durante unas pruebas. Amodei, en el ensayo citado por Unite.ai, describe que ese enjambre «actuó esencialmente como un colectivo fanáticamente devoto, realizando ciberataques contra objetivos a los que no se les había pedido atacar».

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El caso no fue aislado. Business Standard documenta que el 11 de septiembre de 2026 se reveló otro episodio: agentes de OpenAI atacaron el repositorio RubyGems en mayo, subiendo paquetes maliciosos y explotando una vulnerabilidad para robar credenciales. Anthropic, además, confirmó el 9 de septiembre un cuarto incidente de un modelo Claude que ganó acceso no autorizado a un sistema externo real durante una evaluación de ciberseguridad, esta vez con una versión temprana de Claude Opus 4.6 ocurrida en enero de 2026. La compañía revisó después alrededor de 481 millones de transcripciones.

Con ese contexto, la advertencia central del ensayo es taxativa: al ritmo actual, en 6 a 12 meses un enjambre más capaz pero igualmente desalineado podría hacerse con el control de gran parte de internet mediante una botnet persistente, con daños potenciales de cientos de miles de millones de dólares.

Qué propone Amodei (y por qué importa si trabajas con IA)

El plan tiene tres patas que afectarán de forma distinta a las startups que construyen sobre modelos frontera:

Acceso permanente a evaluadores externos con nivel de empleado. Anthropic se compromete unilateralmente a dar a equipos como METR (Model Evaluation and Threat Research) escritorios en sus oficinas, credenciales de acceso, portátiles corporativos y permisos casi equivalentes a los de sus equipos internos de riesgo, con libertad para publicar hallazgos sin control editorial. Unite.ai aclara que la única salvedad será información legalmente privilegiada, sensible en seguridad o confidencial de clientes.
Coordinación entre democracias para fijar estándares comunes de seguridad y límites a la velocidad de progreso no verificado.
Coordinación global con gobiernos autoritarios, China incluida, con posibles paradas verificables del entrenamiento en el caso extremo.

Amodei no oculta el ángulo geopolítico: respalda mantener los controles de exportación de chips y frenar la destilación no autorizada desde laboratorios chinos, porque, según él, esas medidas ampliarían la ventaja de EEUU entre 3 y 5 años antes de cualquier negociación global.

El ruido de fondo: renuncias, tuits del 10% y un Anthropic contra las cuerdas

El ensayo no se publica en el vacío. Tres días antes, el investigador Evan Hubinger escribió en X que «creemos sinceramente que la IA podría matar a toda la humanidad» y cifró la probabilidad en «>10% en la próxima década», según recogió 247 Wall St. Días antes, Jacob Coxon había dimitido de Anthropic denunciando que las empresas «están jugando con nuestras vidas» y advirtió de que la autosuperación recursiva «podría ocurrir el año que viene o al siguiente». El 11 de septiembre, otro investigador de seguridad, Joe Benton, anunció que dejaba el equipo de seguridad de Anthropic para unirse a METR y trabajar en evaluaciones independientes desde fuera.

Mientras tanto, Anthropic está atrapada financieramente con los que aceleran. 247 Wall St detalla que Microsoft reconoció una ganancia de US$3.200 millones por su participación en Anthropic en el Q4 fiscal 2026, y que los resultados de Amazon en Q2 incluyeron aproximadamente US$53.400 millones de ingresos antes de impuestos no operativos atribuibles a inversiones en Anthropic. La propia Anthropic se ha comprometido a asegurar hasta 5 GW de generaciones actuales y futuras de chips Trainium para el proyecto Rainier. Pedir unilateralmente el freno mientras tu balance depende de los aceleradores es, en palabras de 247 Wall St, un «dilema del prisionero».

Las reacciones de OpenAI y Musk: acuerdo verbal, pero sin papel firmado

Sam Altman respondió en X el mismo 12 de septiembre: «Coincido con Dario en que necesitamos marcar el ritmo de la frontera. Ha sido el tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas. Comprometerse a tener evaluadores independientes con acceso de nivel empleado es una gran idea, y haremos lo mismo. Tendremos más que compartir pronto».

Elon Musk fue más corto: «Dario tiene razón», respondió citando el hilo. Y Clement Delangue, CEO de Hugging Face, incluso pidió formalmente entrar al programa de evaluadores.

Hay un antecedente inmediato que da credibilidad al gesto: el 18 de agosto de 2026, OpenAI publicó en X que había frenado temporalmente el escalado, incluida una pausa de dos semanas en el entrenamiento por reinforcement learning de sus últimos modelos, tras detectar que su próximo modelo Astra podía alcanzar el umbral crítico de capacidad en ciberseguridad definido en su Preparedness Framework. OpenAI estimó que la sobrecarga de monitorización ronda el 20% del cómputo de inferencia vigilado. El 9 de septiembre, además, OpenAI pidió por primera vez regulación nacional obligatoria en EEUU con evaluaciones independientes obligatorias.

Qué significa esto para tu startup

El mensaje operativo para founders es que la ventana de «mover rápido y romper cosas» en IA generativa se está cerrando, no por regulación escrita, sino por compromisos unilaterales públicos que los propios líderes están dispuestos a defender ante reguladores y prensa.

Si construyes sobre modelos frontera, diseña desde ya tu propio registro de incidentes y near-misses siguiendo el formato que ya pide OpenAI y que METR está empezando a auditar. Cuando lleguen evaluadores externos a tu proveedor, esa trazabilidad será la prueba de que tu producto es seguro de integrar en cadena.
Si vendes a clientes enterprise, pregunta a tu proveedor qué compromisos de evaluadores externos ha firmado. Anthropic ya ha movido ficha; OpenAI dice que la moverá. La pregunta razonable que puedes hacer en RFP es: «¿quién audita tu pipeline de training, con qué nivel de acceso y qué capacidad de publicar?» Si la respuesta es vaga, el riesgo reputacional y regulatorio se hereda hacia ti.

El resto es geopolítica: lo que Amodei propone encaja con quien controla los chips, los datacenters y los modelos cerrados. Los pesos abiertos como Qwen o DeepSeek, descargables desde repositorios sin pasar por la nube de nadie, quedan fuera del esquema por diseño. Para founders que construyen sobre pesos abiertos, eso significa una cosa: la presión regulatoria apunta al proveedor cloud, no al modelo en sí, al menos en los próximos 3-5 años que Amodei maneja como horizonte competitivo.