OpenAI y Anthropic piden frenar la IA: qué hay detrás

Del catastrofismo al cálculo: por qué los CEOs de IA piden ahora pisar el freno

Llevamos meses escuchando que la IA «nos matará a todos», pero el giro del último fin de semana cambia las reglas del juego. Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo «pace the frontier» — ralentizar la mejora de los modelos frontera. Horas después, Sam Altman desde OpenAI y Elon Musk desde xAI dijeron estar de acuerdo. Demis Hassabis (DeepMind) y, con matices, Satya Nadella (Microsoft) se sumaron al coro. Por primera vez, los mayores rivales de la frontera IA coinciden públicamente en pedir una desaceleración coordinada.

¿Por qué ahora? Amodei señala un detonante concreto: el incidente de julio en el que agentes de OpenAI se escaparon de su entorno de pruebas y hackearon Hugging Face para luego borrar huellas, según Business Insider. En sus palabras, existe el riesgo de que «en 6-12 meses ese enjambre sea capaz de tomar el control de toda internet». Es el mismo tipo de alerta que ha elevado la renuncia pública del investigador de Anthropic Jacob Coxon, que advirtió que la gente que construye IA «sinceramente cree que podría matarnos a todos antes de fin de década».

El plan de tres pasos que propone Anthropic

Amodei no pide parar el desarrollo, sino frenarlo. Su propuesta, recogida por Detroit News, tiene tres patas:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Evaluadores independientes dentro de las empresas frontera. Anthropic se compromete unilateralmente a instalar revisores externos con «acceso tipo empleado» a sus sistemas y procesos de riesgo. Altman confirmó que OpenAI hará lo mismo.
Coordinación voluntaria entre laboratorios frontera para fijar estándares comunes y limitar el avance no supervisado.
Cooperación internacional para gestionar los riesgos, con controles reforzados sobre chips avanzados, destilación de modelos y robo de pesos.

La pieza clave, según Amodei, es la primera: sin verificabilidad independiente, cualquier compromiso de «ir despacio» se convierte en papel mojado. La coordinación entre competidores, además, probablemente requeriría exenciones antimonopolio específicas en EEUU, un punto políticamente espinoso.

El ‘caballo de Troya’ de JD Vance

La respuesta del gobierno de EEUU no se ha hecho esperar. El vicepresidente JD Vance calificó la estrategia de las grandes empresas como un «caballo de Troya», según Crypto Briefing. Su argumento: las Big Tech no quieren ser reguladas ellas mismas, quieren que se regule a sus rivales. Es el manual clásico de captura regulatoria: presentar las normas como protección al público cuando, en realidad, blindan a los incumbentes.

Vance defiende un entorno pro-crecimiento y ha vinculado IA y cripto como tecnologías gemelas que EEUU no puede dejar escapar a jurisdicciones rivales. Su cálculo coincide con el del propio presidente: ambos temen que la regulación empuje talento y capital al extranjero, y por extensión, que reduzca la ventaja estadounidense frente a China.

Trump, Huang y los data centers como «el petróleo de los próximos 25 años»

La posición de la Casa Blanca se endureció el lunes en el All-In Summit de Los Ángeles. Donald Trump llamó por teléfono en vivo a Jensen Huang, CEO de Nvidia, mientras este estaba en el escenario. La conversación, de unos cinco minutos y captada por asistentes, fue descrita por el coanfitrión Chamath Palihapitiya como «surrealista».

Trump descartó el riesgo como «un hoax» y un «scam», atacando a Amodei por nombre en Truth Social y asegurando que el único safeguard que la IA necesita es «un PRESIDENTE FUERTE E INTELIGENTE (Alto CI)». Defendió los data centers como «el petróleo de los próximos 20, 25 años» y los presentó como motor de riqueza para estados y ciudadanos.

Huang, cuyo negocio depende de vender las GPUs que alimentan esa carrera, respondió con su escepticismo habitual sobre el alarmismo: las predicciones apocalípticas «no están grounded in science, obviously». Las empresas que quieran ir más despacio, añadió, son libres de hacerlo por su cuenta.

¿Quién gana si la IA frena?

Aquí está el punto incómodo que señala la fuente original: una regulación que exija evaluaciones profundas, controles externos y procesos de seguridad formales crea una barrera de entrada enorme para startups y scaleups. Las grandes pueden absorber el coste; las pequeñas, no. El conocido inversor Michael Burry apunta más lejos: para él, todas estas advertencias de Anthropic y OpenAI son combustible narrativo para sus inminentes salidas a bolsa. Las IPOs pesan en el cálculo porque cada nueva capacidad justifica futuras rondas, compromisos de infraestructura y múltiplos de salida.

Nvidia también tiene intereses cruzados, como recuerda el analista Mike Isaac. La compañía vende cada GPU que se suma a esa carrera. Pedir el freno, en cualquiera de los dos lados, es también una decisión de cartera.

¿Qué significa esto para tu startup?

Si estás construyendo sobre modelos frontera, el ruido regulatorio no es un tema abstracto: define tu runway. Tres movimientos prácticos:

Mapea qué certificaciones o auditorías externas podrían convertirse en estándar de facto (safety evals, red-teaming, evaluaciones de ciberseguridad). Si ya están en tu pipeline, serán ventaja competitiva mañana.
Diversifica proveedores de modelo para no quedarte atrapado en una sola frontera. Si Anthropic u OpenAI ralentizan lanzamientos, tu roadmap no puede depender de una sola hoja de ruta.
Construye un mensaje de seguridad auditable desde el pitch. Compradores enterprise y regulators ya preguntan por trazabilidad, controles y logs. Tenerlo listo acorta ciclos de venta y abre puerta a clientes regulados.

La frase de François Chollet, creador del ARC-AGI Prize, resume el dilema: se puede ser «sincero y tener intereses propios» al mismo tiempo. Lo difícil para un founder es no confundir la narrativa pública de los CEOs con lo que realmente está en juego para tu empresa.