Anthropic: Coxon y Hubinger renuncian, estiman 10% de riesgo

Coxon y Hubinger sacuden Anthropic con la advertencia del 10%

Un investigador de Anthropic publicó el 9 de septiembre de 2026 una cifra concreta que sacudió a la industria: "más de un 10% de probabilidad de que la IA mate a todos los humanos en la próxima década". La frase la escribió Evan Hubinger, líder de alignment en Anthropic, en respuesta a la renuncia de su colega Jacob Coxon, que acusó a Anthropic y a OpenAI de "jugar con nuestras vidas" en una carrera por la superinteligencia. Para un founder que construye sobre IA, la conversación dejó de ser filosófica: ya hay decisiones regulatorias, de capital y de plataforma en juego que van a reconfigurar el mercado.

¿Qué dicen exactamente los investigadores de Anthropic?

Coxon, de 27 años y formado en Cambridge, trabajó tres años en pre-training —primero en OpenAI desde 2023 hasta julio de 2026, donde contribuyó a GPT-4o, y luego en Anthropic. El 9 de septiembre publicó siete tuits desde una cuenta recién abierta, @hilbertspaess, según reportó IJR. Su hilo acumuló casi 76 millones de vistas en pocas horas y motivó una entrevista al Wall Street Journal. En él sostuvo que "ninguna de las dos empresas está actuando responsablemente" y que ambas entraron en una fase que internamente denominan crunchtime y endgame.

Hubinger respondió en su propia cuenta con la frase que se volvió titular: "Realmente creemos que la IA podría matarnos a todos. Personalmente creo que es >10% en la próxima década". Su post superó las 10 millones de vistas, según la BBC. Aclaró que el riesgo bajo aplica a los modelos actuales y que la probabilidad alta se refiere a sistemas futuros con auto-mejora recursiva, una etapa en la que Anthropic, en sus propias palabras, "todavía no tiene un plan para resolver el problema de alineación y no está claramente en camino de tenerlo".

👥 ¿Quieres ir más allá de la noticia?

En nuestra comunidad discutimos las tendencias, compartimos oportunidades y nos ayudamos entre emprendedores. Sin humo, solo acción.

👥 Unirme a la comunidad

Las renuncias no son un caso aislado. Mrinank Sharma, líder de Safeguards en Anthropic, se fue en febrero de 2026; Alex Turner renunció a Google DeepMind cuatro meses después por un contrato con el Pentágono sin restricciones sobre armas autónomas; Joshua Achiam, ex chief futurist de OpenAI, escribió el 1 de septiembre que sistemas de IA "se replicarán en la naturaleza y buscarán dinero y poder", según BeInCrypto. Bill Gates, por su parte, afirmó que la IA "puede causar mil millones de muertes", recogió Página/12.

El ecosistema detrás del pánico: la ruta del dinero

Alexander Ditzend, fundador y presidente de la Sociedad Argentina de Inteligencia Artificial (SAIA), introdujo una segunda lectura en su entrevista con Página/12: existe un "entramado profundo" detrás de estas afirmaciones. La mayoría de los investigadores que renunciaron terminaron trabajando en METR, una organización que se presenta como independiente y que "se está proponiendo como un nuevo marco regulatorio para evaluar la seguridad de los modelos". El detalle incómodo: METR depende financieramente de que Anthropic tenga éxito, y los mismos inversores detrás de Anthropic pusieron dinero en METR.

Dario Amodei, CEO de Anthropic, se comprometió ante la ONU a "ralentizar unilateralmente" el desarrollo citando "riesgos existenciales para la humanidad". En julio, más de 1.100 empleados de frontera —incluidos Amodei y el chief scientist de OpenAI Jakub Pachocki— firmaron la carta Pacing the Frontier pidiendo al gobierno de EEUU apoyo para crear herramientas técnicas y de gobernanza que pausen deliberadamente el avance de la IA, reportó la BBC.

En el otro extremo, Donald Trump rechazó ante la Asamblea General de la ONU "cualquier intento de construir un proyecto globalista para controlar la inteligencia artificial". El contraste dejó sin coordinación internacional el debate. Dame Wendy Hall, asesora de la ONU en IA, declaró a la BBC que parte del ruido podría ser "PR y marketing" vinculado a las próximas salidas a bolsa de Anthropic —esperada para octubre de 2026— y de OpenAI.

La jugada geopolítica: IA de código abierto vs duopolio

Santiago Siri, presidente de The DemocracyOS Foundation, lee el fenómeno desde un ángulo estratégico: "Ya estamos en una suerte de duopolio entre Anthropic y OpenAI; en menor medida, Google. Toda esta conversación contribuye a generar un clima que favorezca la regulación y termine de consolidar a estos jugadores dominantes". Siri vincula el giro regulacionista con la presión de los modelos chinos de pesos abiertos.

Los datos lo respaldan. Según datos de OpenRouter citados por CNN, los modelos chinos pasaron de menos del 15% a más del 54% del uso global en un año, impulsados por DeepSeek y Moonshot. Anthropic respondió con un informe de septiembre acusando a DeepSeek y Moonshot de redirigir millones de consultas a Claude: más de 23 millones de intercambios de Moonshot entre mayo y julio, y más de 12,1 millones de DeepSeek en 14 días en julio. En julio, Xi Jinping lanzó la World Artificial Intelligence Cooperation Organization, que reúne 29 países, frente a la Pax Silica de Trump, con dos docenas de naciones y la UE.

Mientras tanto, las cifras de negocio de los incumbentes son enormes: según Rhodium Group, el ARR de Anthropic ronda los US$65.000M y el de OpenAI los US$40.000M; toda la IA china combinada apenas llega al 10% de eso (ByteDance US$4.000M, Alibaba US$2.400M, Z.ai US$1.800M, Moonshot US$1.000M, DeepSeek US$500M). Y Amazon, que comprometió 5 GW de chips Trainium para Anthropic dentro del proyecto Rainier —más de 500.000 chips Trainium2—, registró una ganancia contable no operativa de US$53.400M en el Q2 fiscal 2026 por la revalorización de su participación, según 247 Wall St.

¿Qué significa esto para tu startup?

El movimiento regulatorio es real y se va a acelerar. En septiembre, el senador Bernie Sanders y el representante Greg Casar presentaron el Ban Artificial Superintelligence Act, que prohíbe el desarrollo de cualquier sistema que iguale o supere el rendimiento cognitivo humano hasta que un regulador federal fije normas vinculantes. Aunque la ley difícilmente avance rápido, marca la frontera del debate.

Acciones concretas que podés tomar desde hoy:

Diversificá tu stack de modelos con pesos abiertos chinos. Si tu producto depende de una sola API propietaria (Claude, GPT), empezá a probar DeepSeek, Moonshot o Qwen como respaldo. El coste por tarea es menor y te protege de un cambio regulatorio unilateral. Empresas como Airbnb, DoorDash y Shopify ya lo hacen, reportó CNN.
Construí trazabilidad de uso de IA en tu producto. Cuando Anthropic pueda demostrar que tu startup usó su modelo para entrenar un competidor (como alega haber hecho con DeepSeek y Moonshot), el riesgo reputacional es real. Documentá proveedores y términos de uso desde el día uno.
No vendas promesas de superinteligencia a 18 meses. Si el 10% de Hubinger resulta ser 0%, ganaste. Si no, no hay Serie B que valga. Productos con valor actual demostrado son más defendibles que roadmaps aspiracionales.
Mirá el calendario regulatorio, no solo el técnico. La salida a bolsa de Anthropic en octubre de 2026 va a traer más presión pública por "safety" narrativa; prepará tu messaging enterprise para clientes que van a preguntar por governance antes de cerrar contratos.