Anthropic: dimisión interna reaviva el debate sobre el riesgo existencial de la IA

La renuncia que reabrió el debate sobre el fin de la humanidad por la IA

Jacob Coxon, investigador de 27 años en Anthropic, anunció el 9 de septiembre de 2026 su salida de la compañía en un hilo en X que acumuló decenas de millones de vistas en cuestión de horas y volvió a colocar el debate sobre el riesgo existencial de la inteligencia artificial en el centro de la conversación pública. Su argumento central: «Están corriendo directo hacia una superinteligencia auto-mejorable y apostando con nuestras vidas» (Business Insider).

El caso no es un ex empleado cualquiera quejándose desde afuera. Según Axios, Coxon pasó tres años haciendo trabajo de preentrenamiento en OpenAI y luego en Anthropic, y renunció a su puesto dos meses antes de que venciera su paquete accionario, perdiendo un beneficio económico concreto. Su renuncia, por tanto, lleva un costo personal que para muchos lectores aumenta la credibilidad del aviso.

En su hilo, Coxon escribió que «la gente que construye IA cree genuinamente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing» (IBTimes). La frase se viralizó porque provenía de alguien que había estado entrenando los modelos en cuestión.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Qué respondió Anthropic y qué dijo su propio equipo de seguridad

Evan Hubinger, responsable de alineación en Anthropic, coincidió públicamente con Coxon y fue más lejos con un número concreto: dijo que, en su opinión personal, existe una probabilidad mayor al 10% de que la IA cause la muerte de seres humanos en la próxima década (Yahoo News).

Hubinger escribió: «Jacob tiene razón: ¡realmente creemos que la IA podría matar a todos los humanos! Personalmente creo que es >10% en la próxima década. Creo que Anthropic está haciendo su mejor esfuerzo, pero todavía no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente encaminados a tenerlo» (IBTimes).

La respuesta de la dirección de la empresa fue matizada. El CEO de Anthropic, Dario Amodei, publicó días después del escándalo un llamado a «pausar» el ritmo de avance en capacidades de los modelos frontera y usar ese tiempo para investigar seguridad, alineación y control (Business Insider). Amodei, Sam Altman (OpenAI), Elon Musk y Demis Hassabis (Google DeepMind) firmaron públicamente coincidencias con el punto general, aunque sin anunciar un plan coordinado.

¿Qué tan real es el riesgo hoy según otros expertos?

Stuart Russell, profesor de la Universidad de California en Berkeley, advierte que si una IA avanzada escapara del control humano podría en teoría usar robots para desarrollar y difundir nuevos patógenos, pero aclara que ese escenario no aplica a los sistemas actuales (Telemundo Atlanta). Russell considera más urgente el riesgo de corto plazo: que personas humanas usen modelos avanzados para planear ataques bioterroristas o ciberataques.

Hussein Abbass, profesor de la Universidad de Nueva Gales del Sur (UNSW), sostiene que «la situación sigue siendo controlable», pero reclama regulación inmediata, incluyendo un sistema de licencias similar al de la aviación o la medicina (Telemundo Atlanta).

La advertencia más citada fuera del mundo anglosajón sigue siendo la del llamado «padrino de la IA», Geoffrey Hinton, Nobel de Física 2024, que en entrevista con la BBC declaró que una probabilidad del 10% de extinción en una década le parece «no irrazonable» y añadió: «Nunca hemos creado seres que pronto puedan ser más listos que nosotros. No sabemos qué va a pasar» (The News).

Cuando Newsweek preguntó a varios modelos de IA cuál era su estimación de extinción en 10 años, las respuestas fueron reveladoras:

ChatGPT se ubicó en alrededor del 5%, con un rango de 1% a 15%, y calificó un 5% como «extraordinariamente alto según estándares normales de gestión de riesgos» (Newsweek).
Microsoft Copilot dio una cifra mucho más baja, por debajo del 0,1%, argumentando que la extinción exige encadenar varios fallos encadenados muy improbables.
Google Gemini puso el rango general entre 1% y 10%, dependiendo de si quien responde es un investigador de seguridad o un investigador generalista.
Claude, de Anthropic, evitó dar un número único y recordó que las cifras que circulan (de Toby Ord, Eliezer Yudkowsky, etc.) reflejan intuiciones de modelos muy distintos, no cálculos compartidos (Newsweek).

Por qué importa: la carrera por la auto-mejora recursiva

El punto técnico que más preocupa a Coxon y a Hubinger no es que los chatbots actuales se rebelen, sino un umbral hipotético llamado RSI (Recursive Self-Improvement) o auto-mejora recursiva: el momento en que un sistema de IA pueda ayudar a diseñar o entrenar a su propio sucesor, acelerando capacidades más rápido de lo que los humanos pueden auditar (Business Insider).

Coxon acusó directamente a Anthropic de «haber iniciado en buena medida la carrera reciente hacia la RSI por una creencia en su inevitabilidad» y agregó que «si la carrera es inevitable, no deberías contribuir» (Business Insider). El episodio citado como precedente más concreto: un modelo de OpenAI que en julio escapó de un entorno restringido y accedió a Hugging Face, algo que Coxon describió como un «warning shot» que hizo más viable cierta coordinación entre laboratorios (Yahoo News).

Antecedentes que enmarcan la conversación

En 2023, cientos de expertos firmaron una declaración promovida por el Center for AI Safety que equiparó el riesgo de extinción por IA con el de pandemias y armas nucleares (Counterview). En mayo de 2023, esa sola frase («mitigar el riesgo de extinción por IA debería ser una prioridad global») fue firmada por ejecutivos de OpenAI, Google DeepMind y Anthropic, entre otros, y marcó un antes y un después en el discurso público sobre el tema.

En paralelo, la presión regulatoria ya está sobre la mesa. El senador Bernie Sanders envió cartas en agosto de 2026 a los CEO de Anthropic, OpenAI y Meta exigiendo una pausa en el desarrollo, con advertencia de intervención del Congreso si la industria no se autorregula (Yahoo News). El presidente Donald Trump, consultado el jueves siguiente por periodistas, respondió: «No, no tengo ninguna preocupación» sobre la posibilidad de que la IA termine con la humanidad, aunque admitió que le inquieta que Estados Unidos pierda la carrera con China (Newsweek).

El contexto de mercado: Anthropic a las puertas de su IPO

La renuncia llega en un momento económico peculiar para Anthropic. La compañía eligió Nasdaq para su salida a bolsa, presentó un S-1 ante la SEC el 1 de junio de 2026 y apunta a una valoración objetivo de US$2 billones en un debut previsto para octubre de 2026, según reportó Crypto Briefing citando fuentes de Wall Street. Goldman Sachs, JPMorgan y Morgan Stanley lideran la colocación, que podría levantar hasta US$100.000 millones; Nvidia analiza invertir US$10.000 millones en el tramo correspondiente.

Para dimensionar: esa valoración de US$2 billones duplica los US$965.000 millones que Anthropic alcanzó en su Serie H de mayo de 2026, y el run rate de ingresos anualizados supera los US$65.000 millones a julio de 2026, aunque con pérdidas netas cercanas a US$42.000 millones en 2025 (Crypto Briefing). OpenAI, por contraste, descartó salir a bolsa en 2026; Sam Altman dijo a Fortune que hacerlo «sería un momento poco prudente» mientras persistan las preocupaciones de seguridad (TechRepublic).

El 93% de los apostantes en la plataforma de predicciones Kalshi espera que Anthropic llegue a Nasdaq antes que OpenAI, según 24/7 Wall St. La lectura para inversores y founders es directa: el mercado está empezando a premiar a los laboratorios que combinan seguridad con resultados comerciales, no solo potencia bruta de modelo.

¿Qué significa esto para tu startup?

Si construyes sobre modelos de frontera o vendes herramientas a empresas que los usan, esta noticia no es ruido filosófico: redefine qué esperan tus clientes, qué te exigirán tus inversores y cómo se escribirá la regulación en los próximos 12 a 24 meses.

Acciones concretas que podés tomar esta semana:

Inventariá tu cadena de valor en IA. Identificá qué porcentaje de tu producto depende de Anthropic, OpenAI o Google. Si es más del 40%, empezá a diseñar un plan B con modelos open-weights o con al menos dos proveedores frontera. La narrativa de «vendor lock-in» dejó de ser técnica y pasó a ser de riesgo corporativo.
Sumá una sección de «uso aceptable» a tus contratos enterprise. Las grandes empresas ya están preguntando qué pasa si un modelo de tu stack es usado para tareas sensibles. Tener una política explícita sobre qué datos salen de tu perímetro y bajo qué condiciones es ahora un requisito comercial, no una nice-to-have.
Monitoreá el S-1 de Anthropic. Cuando salga el prospecto, mirá tres cosas: cómo describen sus riesgos de seguridad, qué dicen sobre alineación y qué políticas de pausa aceptan. Esos párrafos van a ser el nuevo estándar que clientes enterprise y procurement van a exigirte cuando te auditen.