20 años del ‘doomer’ de la IA: del MIRI al 10% de Hubinger

El '10% de probabilidad de extinción' que reabrió el debate

El 9 de septiembre de 2026, Jacob Coxon, investigador que había pasado por OpenAI y Anthropic, publicó un post en X asegurando que renunciaba a Anthropic porque tanto esta como su rival están "apostando con nuestras vidas". El texto, que según CNBC superó las 70 millones de visualizaciones, aseguraba que quienes construyen IA "creen sinceramente que podría matarnos a todos antes de que termine la década".

Esa misma noche, Evan Hubinger, responsable de alineamiento en Anthropic, lo confirmó en la misma red social: "Personally, I think it is >10% within the next decade", escribió, y añadió que Anthropic todavía no tiene un plan para resolver el alineamiento de una superinteligencia. Hubinger no es un exempleado despechado: trabaja dentro del laboratorio que, según la propia CNBC, está entre los dos que lideran el desarrollo de modelos de frontera. La frase del 10% no es nueva en el mundillo: lleva años circulando bajo el acrónimo p(doom), una forma abreviada que los propios investigadores usan para estimar la probabilidad de desenlaces catastróficos.

Lo llamativo es que esta vez lo dijo alguien con poder de decisión sobre qué modelos se entrenan y cómo.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Una advertencia que lleva más de dos décadas repitiéndose

El movimiento que hoy habla de "riesgo existencial" tiene raíces anteriores a ChatGPT, a Claude e incluso a OpenAI. El Machine Intelligence Research Institute (MIRI) se fundó en el año 2000 y no fue hasta 2005 cuando empezó a hablar explícitamente de los riesgos existenciales de la IA. En 2009, su cofundador Eliezer Yudkowsky ayudó a crear LessWrong, una comunidad donde se cruzaron el transhumanismo y el altruismo eficaz para producir una idea muy concreta: la IA superaría inevitablemente a los humanos y, si no se construía alineada con nuestros valores, sería una amenaza para nuestra supervivencia.

El dinero llegó pronto. En 2015, Elon Musk donó 10 millones de dólares en becas para investigar seguridad en IA. Ese mismo año firmó junto a Demis Hassabis (DeepMind), Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y Stephen Hawking un manifiesto publicado por el Future of Life Institute (FLI) que reclamaba más investigación en seguridad. Eran los inicios del discurso, pero todavía con tono prudente.

El catastrofismo se endureció con el lanzamiento de GPT-4 en marzo de 2023. Una semana después, el FLI publicó la carta "Pause Giant AI Experiments" pidiendo una pausa de al menos seis meses en el entrenamiento de modelos más potentes que GPT-4. Según Wikipedia, la carta superó las 30.000 firmas, incluyendo a Yoshua Bengio, Stuart Russell, Musk, Wozniak, Yuval Noah Harari y Jaan Tallinn, cofundador del propio FLI. Elon Musk la firmó, pero Bill Gates la rechazó argumentando que pedirle a un grupo concreto que pare no resuelve los desafíos, según Reuters. Sam Altman, CEO de OpenAI, respondió que la carta carecía de "matiz técnico" y que OpenAI no estaba entrenando GPT-5.

Dos meses después, en mayo de 2023, el Center for AI Safety publicó una segunda carta más corta pero más dura: "Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear". La firmaron Altman, Dario Amodei (Anthropic), Hassabis y Hinton, entre otros. Por primera vez, una declaración de ese calibre llevaba la palabra "extinción" y la equiparaba con amenazas que los gobiernos llevan décadas tratando.

En 2025, Yudkowsky y Nate Soares (presidente del MIRI) publicaron el libro If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, cuya tesis ya va en el título. Y en julio de 2026, unos 1.400 investigadores firmaron una carta abierta llamada "Pacing the Frontier" pidiendo al Gobierno de EE. UU. herramientas para frenar deliberadamente el ritmo del desarrollo de IA en la frontera.

Por qué la alarma actual se siente diferente

El debate no es nuevo, pero el contexto sí. En julio de 2026, la CNN (vía CNBC) reportó que más de 1.000 trabajadores del sector firmaron una petición reclamando una ralentización, y que la construcción de centros de datos para IA se ha convertido en un sleeper issue de cara a las midterm elections según el National Republican Senatorial Committee.

En el Congreso de EE. UU. ya hay dos proyectos en danza, según CNBC: el FRONTIER Act, presentado en julio por los representantes Jay Obernolte (R-Calif.) y Lori Trahan (D-Mass.), busca un marco de gobernanza para el despliegue de modelos avanzados; y el Ban Artificial Superintelligence Act, presentado a principios de septiembre por el senador Bernie Sanders y el representante Greg Casar (D-Texas), propone una pausa hasta que se establezcan reglas federales de seguridad. Ambos proyectos han recibido reacciones mixtas.

En lo corporativo, la fractura también es visible. Jakub Pachocki, chief scientist de OpenAI, publicó un blog el domingo previo a la renuncia de Coxon donde reconoció que ninguna empresa ha "resuelto el alineamiento y la monitorización a un nivel suficiente para seguir escalando responsablemente a máxima velocidad por mucho más tiempo". Pachocki pidió "coordinación internacional" como prioridad para los gobiernos. Que lo diga alguien del equipo científico de OpenAI, y no un grupo externo, marca un punto de inflexión.

Mientras tanto, según reportó la BBC el 19 de septiembre de 2026 (vía CryptoBriefing), empleados actuales y antiguos de OpenAI, Anthropic, Meta y DeepMind consultados por la cadena describieron las predicciones apocalípticas como exageradas y, en algunos casos, motivo de franca diversión. La grieta ya no es entre críticos y constructores: es dentro de los propios laboratorios.

¿Y Dario Amodei qué dice?

El CEO de Anthropic ha intentado ocupar un lugar incómodo: advertir de los riesgos sin aparecer como el apagafiestas del sector. En agosto de 2026, en respuesta al inversor Gavin Baker — que le acusó de haber "perdido el argumento" y haber alimentado el backlash contra los data centers —, Amodei respondió en X que su comunicación ha estado "aproximadamente equilibrada" entre riesgos y beneficios, y recordó su ensayo de 2024 "Machines of Loving Grace" (más de 13.000 palabras, reimpreso como libro y revendiéndose en eBay, según Business Insider).

Amodei también admitió un punto doloroso: "la crítica más exacta a las empresas de IA, incluida Anthropic, es que todavía no hemos cumplido nuestras grandes promesas de beneficiar al mundo". Su propia solución: "decir que la IA curará el cáncer ya es más un cliché que algo inspirador; lo que funcionará es curar el cáncer de verdad". Una encuesta de Pew citada por The Next Web señala que el 50% de los adultos estadounidenses están más preocupados que entusiasmados con la IA en su vida diaria, frente al 10% que están más entusiasmados — un salto desde el 37% de preocupación registrado en 2021.

Anthropic, además, se prepara para salir a bolsa en octubre de 2026 con una valoración esperada por sus inversores de US$2 billones, según The Next Web. Que un CEO con esa tesitura en la mesa reconozca que su industria no ha cumplido lo prometido cambia el peso de cualquier predicción apocalíptica que haga su propio equipo de alineamiento.

Qué significa esto para tu startup

Para un founder hispanohablante, la pregunta no es si la IA va a matar a todos, sino qué parte de este ruido te afecta a ti. Tres cosas concretas:

Separa el ruido del riesgo real. La narrativa apocalíptica convive con problemas mucho más próximos: propiedad intelectual, sesgos, alucinaciones, filtraciones de datos, regulación sectorial (sanidad, finanzas, educación). Si tu producto usa LLMs, tu due diligence de riesgos debería empezar por ahí, no por una superinteligencia que no existe.
Prepárate para más regulación, no menos. El FRONTIER Act y el Ban Artificial Superintelligence Act son proyectos estadounidenses, pero la tendencia es global. La EU AI Act ya está en vigor y muchos clientesenterprise pedirán trazabilidad de modelos y datos. Construir desde el día 1 con logging, documentación de evaluación y cláusulas de uso aceptable te ahorrará reescrituras cuando llegue el auditor.
Tu mejor defensivo es una métrica honesta. Cuando Amodei dice que el problema es que la industria no cumple sus promesas, está describiendo el mismo riesgo reputacional al que se enfrenta cualquier startup que venda IA: prometer menos y demostrar más. Un founder que entrega resultados medibles y explica sus límites compite mejor que uno que promete magia.

Conclusión

El "doomerismo" de la IA lleva más de dos décadas repitiendo el mismo argumento con palabras cada vez más alarmistas. Lo que cambió en septiembre de 2026 es que la voz ya no viene solo de voces externas: viene de dentro de los laboratorios que están entrenando los modelos más avanzados del mundo, coincide con dos proyectos de ley en el Congreso de EE. UU. y llega mientras Anthropic se prepara para una salida a bolsa de US$2 billones. Para los founders, el mensaje práctico es separar la narrativa del riesgo operativo: la regulación viene, las promesas vacías se penalizan, y la confianza se gana entregando.