Musk respalda a Amodei: «el AGI es más peligroso que las armas nucleares»

El CEO de Anthropic pide pisar el freno y Musk le responde «tiene razón»

Elon Musk volvió a sacudir el debate sobre los riesgos de la inteligencia artificial al respaldar en sus redes sociales la última advertencia de Dario Amodei, consejero delegado de Anthropic. La discusión reabrió una herida vieja: la que sostiene que la AGI (Inteligencia Artificial General) representa un peligro mayor que las armas nucleares.

La mecha la encendió Jacob Coxon, exinvestigador de Anthropic, con un comunicado en el que asegura que las empresas del sector «están corriendo directo hacia la superinteligencia auto-mejorable» y que sus líderes «creen sinceramente que podría matarnos a todos antes de que termine la década», según recogió Gizmodo.

Amodei recogió el guante con un tono más mesurado. En una publicación de fin de semana, el CEO de Anthropic reconoció que «hay cierta probabilidad de que algo vaya mal» pero pidió «pensar en cómo se descomponen estas probabilidades: cuáles son los caminos en los que las cosas salen bien y cuáles son los que salen mal», según recoge La Razón.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Musk fue directo en su respuesta: «tiene razón». Y remató con un recordatorio: «he estado dando la voz de alarma sobre la IA durante mucho tiempo».

La propuesta concreta de Amodei: evaluadores externos y un «límite de velocidad»

Lejos de quedarse en el discurso, Amodei planteó un plan de tres pasos, recogido por Gizmodo:

Permitir evaluadores externos embebidos dentro de los laboratorios de IA.
Coordinar entre empresas y gobiernos estándares de seguridad.
Buscar coordinación global, incluso con gobiernos autoritarios, sobre seguridad en IA.

Amodei fue más allá y propuso varios niveles de acuerdo en orden de dificultad creciente: desde prohibir los usos más obviously malignos (como armas biológicas), hasta una «limitación de velocidad» sobre la auto-mejora recursiva de los modelos, y, como techo, «una pausa total» en el desarrollo de IA entre gobiernos. El propio Amodei reconoció que esta última opción era «bastante improbable».

Musk recuperó un tuit de hace doce años: «más peligroso que las armas nucleares»

Para reforzar su argumento, Musk rescató un mensaje publicado en 2014 en el que ya advertía: «el AGI representa un riesgo significativamente mayor que las armas nucleares, en mi opinión. Los humanos superinteligentes tienen problemas para imaginar algo muchísimo más inteligente que ellos mismos«.

No es un comentario aislado. En una entrevista concedida a The Economist en julio de 2026, Musk fue un paso más allá y propuso que las propias empresas competidoras se reunieran de manera informal para revisar mutuamente los modelos lanzados por la competencia. «Las empresas competidoras probablemente entenderán si algo representa un riesgo de seguridad y no van a ser tímidas a la hora de destacar que los modelos de sus competidores deberían retrasarse en su lanzamiento», reflexionó el empresario.

La idea suena contraintuitiva: que OpenAI, Anthropic, Google DeepMind y xAI se sienten en la misma mesa para auditarse entre sí. Pero Musk confía en que la competencia interna serviría como mecanismo de autorregulación, donde cada actor tiene incentivos para señalar fallos del rival antes de que el regulador público intervenga.

Por qué importa el contexto: cuando los propios constructores piden pausa

Lo significativo de este episodio no es el alarmismo, sino que el mensaje sale desde dentro. Musk, Amodei y, según The New York Times citado por Gizmodo, también Sam Altman (CEO de OpenAI) coincidieron públicamente en apoyar medidas de cautela.

Sin embargo, no todo el mundo comparte el tono apocalíptico. Nature publicó un estudio preprint en marzo en el que cerca de 4.000 investigadores de IA fueron encuestados: solo el 3% identificó el «riesgo existencial» como su principal preocupación, muy por detrás del uso malicioso, el impacto laboral y el hype del sector. Casey Mock, investigador de política tecnológica de la Universidad Duke, fue más allá y apuntó que «la carga de la prueba debería recaer sobre quienes afirman que vamos en un tren fuera de control hacia una superinteligencia que exterminará a la humanidad».

Este contrapunto es clave para un founder: el ruido del doomerismo puede ser también una herramienta de marketing para convencer al mercado de que estos productos son inevitables y todo-poderosos. La pregunta razonable no es si la IA es peligrosa (lo es, como cualquier tecnología dual), sino dónde están los riesgos concretos y medibles hoy.

¿Qué significa esto para tu startup?

Más allá del ruido mediático, el cruce Musk-Amodei deja tres señales accionables para founders que construyen o integran IA:

Prepárate para regulación en cascada. Si los propios CEOs piden «embeber» evaluadores externos y coordinarse con gobiernos, el escenario regulatorio se endurecerá. Diseña tu producto con logs de auditoría, trazabilidad de datos y documentación de seguridad desde el día uno; cuando llegue la regulación, habrás ganado meses.
No subestimes el «riesgo de marca». Una filtración, un sesgo documentado o un fallo de seguridad en producción puede convertirse en titular negativo global. La conversación sobre IA es ahora un debate de portada; invierte en red teaming interno antes que te lo haga un periodista.
Diferencia hype de riesgo real. El 3% de investigadores cita el riesgo existencial como prioridad. Los riesgos que sí mueven la aguja para una startup son: propiedad intelectual de los datos de entrenamiento, cumplimiento (RGPD, AI Act europeo), alucinaciones en productos cara al cliente y costes de inferencia que se disparan con cada nueva versión de modelo. Construye tu roadmap en torno a esos, no a la superinteligencia.