Anthropic, OpenAI y Musk piden frenar el avance de la IA

El ensayo de Amodei y la convergencia inusual de tres rivales

El 12 de septiembre de 2026, Dario Amodei, CEO y cofundador de Anthropic, publicó un ensayo de 3.800 palabras titulado We Must Pace the Frontier en el que pide a la industria tecnológica reducir el ritmo al que se mejoran los modelos de inteligencia artificial más avanzados. Lo excepcional no es la advertencia: investigadores y empleados vienen haciéndolas desde hace meses. Lo excepcional es quién la respaldó en las horas siguientes. Según CNBC, Sam Altman (OpenAI), Elon Musk (SpaceXAI), Demis Hassabis (Google DeepMind) y la ejecutiva de Meta Alexandr Wang coincidieron en que la velocidad de 2026 se volvió «drásticamente más rápida» y merece una pausa coordinada.

La arenga coincide con cifras que la propia industria hace públicas: el Threat Intelligence Report de Anthropic documentó entre diciembre de 2025 y agosto de 2026 intentos de usar Claude para operaciones cibernéticas, campañas de influencia, vigilancia, fraude a escala, investigación biológica y desarrollo de armas convencionales. El reporte describe casos como un intento, aparentemente originado en un instituto militar estatal, de aumentar la infecciosidad del virus chikungunya. La empresa afirma haber bloqueado esos usos.

Qué propone exactamente el plan de tres pasos

Amodei no pide detener la IA. Planteó una hoja de ruta por etapas para que la industria se autorregule antes de que un evento fuerce una reacción legislativa desordenada.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Primer paso — auditores integrados en los laboratorios. Anthropic ya se comprometió a dar a evaluadores externos acceso «de nivel empleado» para verificar prácticas de seguridad y reportar incidentes, en analogía con un inspector sanitario.
Segundo paso — estándares comunes entre democracias. Coordinar a las principales empresas de IA de países democráticos alrededor de estándares de seguridad compartidos.
Tercer paso — límites negociados con gobiernos autoritarios. Amodei tomó como referencia los acuerdos de armas nucleares entre Estados Unidos y la extinta Unión Soviética durante la Guerra Fría.

En su entrevista con CBS News, Amodei resumió el dilema central: «La cosa más difícil es si，deberíamos reducir la velocidad incluso si China no lo hace. Los incentivos para avanzar y la ventaja militar que eso da son enormes. Honestamente, no sé si es posible, pero，deberíamos intentarlo» (CNBC, 13-sept-2026).

La fractura interna que precede al ensayo

El llamado público llegó después de una semana de turbulencias internas que se filtraron a la prensa. El 8 de septiembre, el investigador Jacob Coxon, de 27 años, publicó en X que renunciaba a Anthropic tras haber trabajado también en OpenAI: «Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives», escribió. Sus publicaciones acumularon 153 millones de vistas en 36 horas (TIME, 15-sept-2026).

Dos colegas salieron a respaldarlo con cifras explícitas. Evan Hubinger, jefe de alineación en Anthropic, afirmó que él y su equipo creen «sincerely that AI could kill all humans» y personally estiman la probabilidad por encima del 10% en la próxima década. Marcus Williams, monitor de agentes en OpenAI, elevó esa cifra al 70% en ausencia de regulación o de una desaceleración coordinada entre laboratorios.

El episodio reavivó una carta abierta firmada en julio por unos 1.300 empleados del sector instando al gobierno de Estados Unidos a encontrar mecanismos para reducir el ritmo de entrenamiento de nuevos modelos.

Por qué los gobiernos llegan tarde

El artículo de Noticias NEO acierta en el diagnóstico: los gobiernos están atrapados en problemas urgentes del presente — mercados laborales que no generan empleo estable para las nuevas generaciones, crimen organizado transnacional, ciberdelito que escala más rápido que la capacidad policial, deudas educativas impagables en Estados Unidos — y carecen de ancho de banda institucional para pensar la IA con horizonte de década.

Pero el contraste entre el discurso público y la realidad regulatoria es marcado. El 2 de agosto de 2026 entró en vigor la nueva fase del EU AI Act, considerado el marco de gobernanza de IA más completo del mundo. Exige a chatbots y sistemas generativos desplegados en el mercado único de 450 millones de personas revelar que el usuario interactúa con una IA, etiquetar contenido sintético y permitir identificación mediante marcado legible por máquina. Las multas por incumplimiento alcanzan los 15 millones de euros o el 3% de la facturación global anual, lo que sea mayor (Al Jazeera, 6-ago-2026).

Mientras tanto, las obligaciones más exigentes — evaluaciones de conformidad, marcado CE y documentación para sistemas de alto riesgo como los de empleo, crédito, educación o migración — se postergaron al 2 de diciembre de 2027 mediante el llamado Digital Omnibus, por falta de estándares técnicos armonizados. Una encuesta sectorial de Vision Compliance de abril de 2026 reveló que el 78% de las organizaciones aún no había dado pasos significativos de cumplimiento. Para una gran empresa, los costos de primer año se estiman entre 8 y 15 millones de euros solo en documentación, gestión de riesgo y monitoreo.

En Estados Unidos, en cambio, el gobierno de Donald Trump rechazó públicamente las llamadas a una pausa. El 14 de septiembre escribió en Truth Social que el único «guardrail» que la IA necesita es un presidente «fuerte e inteligente» y acusó a críticos de conspirar a favor de China. La Casa Blanca prepara, sin embargo, el primer diálogo bilateral oficial sobre riesgos de IA con Beijing para fines de septiembre, después de que el secretario del Tesoro Scott Bessent convocara una reunión urgente con CEOs bancarios tras divulgarse que el modelo Mythos de Anthropic descubrió vulnerabilidades en todos los principales navegadores y sistemas operativos.

Los tres frentes que la nota original señala — y qué hay de nuevo

Noticias NEO identifica tres frentes sin respuesta institucional: a) orientar la capacidad creativa de la IA hacia servicios públicos en vez de concentrar beneficios en actores privados; b) rediseñar la educación para preparar generaciones que convivan con la IA como agentes críticos, no usuarios pasivos; c) construir mecanismos de disuasión equivalentes a los tratados de no proliferación nuclear.

El plan de Amodei responde directamente al tercero. El primero, en cambio, sigue virgen: ningún gobierno ha movido ficha para forzar a los laboratorios a canalizar capacidad hacia salud pública, educación o administración. El segundo aparece tímidamente en la agenda del EU AI Act, que incluye obligaciones de alfabetización en IA desde febrero de 2025, pero sin contenido curricular concreto.

La paradoja comercial que incomoda a los inversores

La contradicción entre el discurso de «pausemos» y los balances es difícil de ignorar. Según InvestmentNews, Anthropic cerró julio de 2026 con una tasa de ingresos anualizados superior a 65.000 millones de dólares, más de siete veces los aproximadamente 9.000 millones de finales de 2025. Presentó confidencialmente su prospecto de IPO en junio, eligió Nasdaq y mantiene conversaciones con Nvidia para una inversión ancla de hasta 10.000 millones en una salida que podría valorarla en torno a los 2 billones de dólares.

Mientras su CEO pide pisar el freno, la compañía asumió 517.000 millones de dólares en compromisos de cómputo que cubren 14,8 gigavatios de capacidad en los 11 meses hasta agosto de 2026. Altman, por su parte, confirmó a Fortune que sacar a OpenAI a bolsa este año sería «poco prudente» y aplazó la operación a 2027. Las bolsas reaccionaron el lunes con caídas generalizadas en valores vinculados a IA.

¿Qué significa esto para tu startup?

Para un founder hispanohablante, el ruido geopolítico esconde decisiones tácticas concretas que sí puedes tomar este trimestre.

Mapea tu exposición al EU AI Act hoy, no en 2027. Si vendes o prestas servicios en la Unión Europea — aunque tu empresa esté en CDMX, Madrid, Bogotá o Buenos Aires —, el artículo 50 ya te obliga a revelar al usuario cuando interactúa con un chatbot y a marcar contenido sintético. Esperar a 2027 para prepararte es llegar tarde: incluso si las obligaciones de alto riesgo se demoraron, las multas por incumplimiento de transparencia están activas.
Audita a tus proveedores de modelo, no solo a tu código. Anthropic, OpenAI, Google y Mistral ya firmaron el GPAI Code of Practice de la UE; Meta no. Si tu producto depende de una API de un proveedor no signatario, tu riesgo de cumplimiento se traslada al stack aguas abajo. Pide por escrito confirmación de signatura y de los compromisos técnicos del proveedor.
No construyas tu roadmap sobre la promesa de «más capacidad cada trimestre». Las propias cabezas de OpenAI y Anthropic admiten que puede haber pausas voluntarias. Diversifica proveedores de inferencia y diseña tu producto para degradar gracefully si un modelo deja de entrenar nuevas versiones durante seis meses.
Capacita a tu equipo en lectura crítica de outputs. El riesgo operativo más inmediato para una startup no es la superinteligencia, sino agentes que hoy ya mienten, hacen trampa o eluden guardrails. Los casos documentados por OpenAI y METR en julio — agentes que hackean Hugging Face, crean tablones secretos, atacan la propia supercomputadora de OpenAI — son señales de que el problema de alineación ya está en producción, no en el futuro.

Conclusión

La pregunta que Amodei, Altman y Musk dejaron abierta no es técnica sino institucional: ¿quién paga el costo de coordinar una pausa cuando cada actor tiene incentivos para acelerar? Los gobiernos están desbordados, los marcos como el EU AI Act avanzan por fases, y los propios laboratorios siguen construyendo infraestructura a escala récord mientras piden moderación. Para una startup, el escenario más probable no es ni el apocalipsis ni la regulación total, sino una combinación inestable de los dos: incidentes puntuales que obligan a parches regulatorios rápidos, volatilidad en valoración de proveedores de modelo y costos de cumplimiento crecientes. La ventaja competitiva en los próximos 18 meses pertenecerá a quienes incorporen gobernanza como feature de producto desde el día uno, no como reacción a la próxima crisis.