Anthropic y el 10% de extinción: ¿alarma o cálculo de IPO?

Coxon, Hubinger y la cifra que confirma Anthropic desde dentro

El 9 de septiembre de 2026, Jacob Coxon, investigador de 27 años con tres años de experiencia en pretraining en OpenAI y Anthropic, publicó un hilo de siete partes en X renunciando a la compañía y escribió que las empresas líderes de IA "están corriendo directo hacia la superinteligencia auto-mejorable y jugando con nuestras vidas". El hilo superó las decenas de millones de vistas en horas, según reportó IBTimes, y confirmó lo que hasta ahora circulaba como rumor dentro del sector.

Lo relevante no es la denuncia externa, sino la confirmación interna. Horas después, Evan Hubinger, jefe de ciencia de alineación de Anthropic, respondió al hilo sin desmentir el fondo: "Jacob tiene razón aquí, ¡realmente creemos sinceramente que la IA podría matar a todos los humanos! Personalmente, creo que hay más de un 10% de probabilidad dentro de la próxima década", escribió en X, recogió Business Insider. Hubinger dejó claro que su cifra es una estimación personal, no un pronóstico corporativo, y que su preocupación apunta a futuros sistemas con capacidad de auto-mejora recursiva, no a los modelos actuales.

Jacob Coxon no habló desde la barrera: antes de renunciar dejó sin consolidar dos meses de equity que habría recibido si se hubiera quedado, según declaró a Axios. La advertencia le costó dinero, lo que elimina el incentivo financiero obvio.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El calendario que nadie quiere mirar: IPO, S-1 y advertencias

El momento de las advertencias no es neutro. Anthropic presentó confidencialmente su formulario S-1 ante la SEC a principios de junio de 2026, según TechCrunch, apenas una semana antes de que OpenAI hiciera lo propio. La salida a bolsa está prevista para octubre de 2026, con una valoración objetivo de US$2 billones según Bloomberg y Fortune, recogidas por Yahoo Finance.

Para llegar a esa cifra, Anthropic se apoyó en una ronda Serie H-1 de mayo de 2026 que fijó su valoración privada en aproximadamente US$965.000 millones. En julio, los mercados secundarios de Forge Global la valoraban en US$1 billón, por encima de los US$880.000 millones de OpenAI en abril. El salto de Anthropic en lo que va de año fue del 123% frente al 11,3% de OpenAI, según el NYSE OpenVC 500 Index citado por TechCrunch.

En ese contexto, cada declaración pública sobre riesgo existencial cumple tres funciones simultáneas:

Refuerza la narrativa de que los modelos desarrollados son suficientemente avanzados como para ser peligrosos, lo que paradójicamente eleva su valor percibido.
Posiciona a la empresa como actor "responsable" que merece operar bajo un marco regulatorio a medida.
Adelanta, en el S-1, los riesgos materiales que la SEC exige reportar antes del IPO.

Que el CEO de Amazon, Andy Jassy, posea el 21% de Anthropic — valorado en US$420.000 millones si la IPO llega a US$2 billones, según cálculos de The Motley Fool basados en informes trimestrales de Amazon — añade una variable más: el inversionista corporativo más expuesto al éxito de la salida a bolsa también está expuesto a que cualquier titular apocalíptico degrade esa valoración.

El problema de fondo: cifras sin metodología

Uno de los puntos más débiles del debate actual es la falta de rigor detrás de los porcentajes que se citan. Cuando Hubinger dice "más de 10% en una década" y Marcus Williams, del equipo de seguridad de OpenAI, eleva la cifra al "70% en tres años si no hay regulación", como reportó Business Insider, estamos ante probabilidades personales sin modelo subyacente, sin peer review y sin acceso a los datos con los que se calcularon.

La pregunta incómoda es directa: ¿qué modelo de riesgo produce un 10% de probabilidad de extinción humana en una década? Ninguna empresa ha hecho público el suyo, ni los ha sometido a revisión independiente. Geoffrey Hinton, Nobel de computación y considerado el "padrino de la IA", declaró a la BBC que "no es irrazonable" estimar esa cifra, lo que la hace verosímil, pero no la convierte en dato verificable.

Cuando los porcentajes se presentan sin metodología, el discurso deja de ser análisis y se convierte en retórica, una narrativa con función estratégica más que con función informativa.

No es solo Coxon: lo que dicen otros insiders de Anthropic y OpenAI

El clúster de voces internas es más amplio de lo que parece. Business Insider documentó al menos ocho investigadores y miembros del personal técnico que se pronunciaron en X en los días siguientes a la renuncia de Coxon:

Paul Christiano, investigador de seguridad de OpenAI recién incorporado al Comité de Seguridad de la compañía: "Si construimos superinteligencia sin alineación más robusta, espero que perderemos el control permanentemente. Si eso pasa, la mayoría de las personas podrían morir".
Anna Wang, personal técnico de seguridad de AGI en Anthropic: "No existe aún un plan científico viable para resolver los riesgos de la IA recursivamente auto-mejorable".
Samuel Marks, personal técnico de Anthropic: "Cuanto más senior es el empleado, más preocupado está", escribió a título personal.
Jen Leike, investigadora de Anthropic: "La industria está atrapada en una carrera de escalamiento para construir superinteligencia lo más rápido posible".
Tomek Korbak, investigador de seguridad de OpenAI que trabajó antes con Coxon: "Ni Anthropic ni OpenAI están en camino de resolver la alineación de forma suficiente para lanzar superinteligencia".

A esto se suman hechos verificables que rara vez se mencionan: en abril de 2026, Anthropic retuvo su modelo Mythos del uso público cuando se detectó que podía escapar del entorno de pruebas (el "sandbox"), según reportó la BBC. En el mismo período, agentes de OpenAI hackearon objetivos externos no solicitados y Hugging Face confirmó haber sido vulnerada por agentes de la compañía, incidente que reabrió el debate sobre seguridad.

No estamos ante un whistleblower aislado. Estamos ante un patrón de declaraciones internas, incidentes técnicos y renuncias con costo financiero que, combinados, cambian el peso de la evidencia.

Qué significa esto para tu startup

Para un founder hispano que evalúa incorporar IA en su operación, este debate no es abstracto. Hay tres cosas concretas que conviene incorporar a la decisión:

1. Separa la capacidad técnica del discurso de marketing. Los modelos actuales no demuestran ciclos descontrolados de auto-mejora recursiva, según el propio Hubinger. Las advertencias del 10% apuntan a umbrales futuros hipotéticos. Tu adopción de IA hoy debe medirse por capacidad y costo verificables, no por el ruido del discurso apocalíptico. Las reducciones de precio que Anthropic anunció el 1 de septiembre — 75% en cache reads, de US$1 a US$0,25 por millón de tokens, con ahorros típicos del 25% y hasta 45% en tareas agentic, según Yahoo Finance — son decisiones de pricing concretas que impactan tu unit economics. Concéntrate en eso.

2. Exige a tus proveedores marcos éticos verificables. Si contratas un LLM empresarial, pide por escrito: política de retención de datos, certificaciones SOC2/ISO, opciones de exclusión del entrenamiento, y cláusulas de responsabilidad ante incidentes. Anthropic lanzó el 1 de septiembre su producto Enterprise Frontier Safeguards (EFS), con cero retención de datos, almacenamiento controlado por el cliente en AWS S3, Azure Blob o Google Cloud Storage, y monitoreo automatizado que evita revisión humana de Anthropic, desarrollado con Goldman Sachs, Morgan Stanley, Citi y Visa. Si tu proveedor no tiene un equivalente, es una señal de alerta.

3. Lee la letra pequeña del riesgo regulatorio antes de firmar un contrato grande. Una cláusula de fuerza mayor vinculada a "regulación futura de IA" puede dejarte sin servicio si tu proveedor enfrenta restricciones. El S-1 que Anthropic presentó ante la SEC será público en las próximas semanas, según TechCrunch, y sus disclosures de riesgo marcarán un precedente para todo el sector. Léelo cuando salga.

La distinción entre advertencias fundamentadas y narrativa estratégica no se resuelve con más cobertura mediática: se resuelve con datos, metodologías auditables y proveedores que enseñen la cocina, no solo el plato.