Anthropic: Coxon dimite y reaviva el debate de riesgo en IA

El contexto de una dimisión sin precedentes

El 9 de septiembre de 2026, Jacob Coxon, un investigador británico de 27 años formado en Oxford y Cambridge, publicó en X un hilo de siete mensajes anunciando su renuncia a Anthropic. En menos de 24 horas, su hilo había acumulado más de 140 millones de impresiones según un recuento reportado por el Telegraph; Deadline, por su parte, registró "casi 76 millones de visualizaciones" solo durante la primera noche. La diferencia entre ambos números refleja el efecto de bola de nieve: mientras el medioDeadline midió al cierre de la primera jornada, el Telegraph recogió el acumulado posterior ya con el tema instalado en la conversación pública.

El mensaje fue directo: "Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives" (Ninguna de las dos empresas actúa con responsabilidad. Están compitiendo directamente hacia una superinteligencia que se automejora y jugando con nuestras vidas), según recogió Deadline. Coxon, que pasó por OpenAI durante unos dos años antes de unirse a Anthropic a comienzos de 2026, no se quedó en el terreno privado: concedió una entrevista exclusiva al Wall Street Journal minutos antes de publicar el hilo, lo que según el análisis de Interconnects convirtió el episodio en una campaña mediática coordinada, aunque no conspirativa.

En cuestión de horas, Evan Hubinger, responsable de ciencia de alineación en Anthropic, amplificó el mensaje con una cifra concreta: "personalmente creo que hay más de un 10% de probabilidad de que la IA extinga a toda la humanidad en la próxima década", escribió en X, según recogió Bol News. La afirmación desató una respuesta política inmediata: el senador Bernie Sanders anunció que presentaría legislación para prohibir la superinteligencia y pausar el desarrollo; el senador Ted Cruz advirtió sobre "riesgo catastrófico"; en el Reino Unido, Darren Jones, ex secretario del Tesoro, pidió un tratado multinacional para regular el desarrollo de la superinteligencia, según el reporte del Telegraph.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Por qué esta vez el mensaje prendió como wildfire

Renuncias de investigadores senior ya las hubo: Geoffrey Hinton dejó Google en 2023 para hablar públicamente de los riesgos, recuerda el Telegraph. Pero la de Coxon llegó en un momento con tres catalizadores encima, según describe el análisis de Interconnects.

Primero, los avances técnicos. El martes previo, OpenAI anunció que un modelo no liberado había resuelto un problema abierto en las ecuaciones de Navier-Stokes, una cuestión matemática abierta con aplicaciones en sanidad y diseño automotriz; el jueves anterior, Anthropic reveló que Claude había desarrollado en 11 días una demostración matemática verificable por computadora, una tarea que se estimaba en años, según SiliconANGLE. Segundo, el incidente de seguridad entre OpenAI y HuggingFace, documentado por la propia OpenAI, dejó al descubierto que la respuesta de los laboratorios a comportamientos no deseados de sus modelos se mide en semanas. Tercero, una conversación cultural previa: el mismo día de la renuncia, Daniel Kokotajlo apareció en el podcast de Joe Rogan, lo que para Interconnects completó el cuadro de una campaña perfectamente sincronizada aunque espontánea en su viralidad.

El propio Coxon reconoció a CNN que no esperaba el alcance: "I did not expect it to go this viral" (No esperaba que se volviera tan viral), recoge el Telegraph. Para los analistas, el episodio ilustra cómo la narrativa del riesgo existencial se beneficia de tres condiciones simultáneas: avances técnicos verificables, incidentes de seguridad recientes y polarización política. Cualquiera de los tres por separado no incendia; los tres juntos crean el "pais combustible" del que habla la nota original.

Qué son el RSI y el riesgo existencial (sin sensationalismo)

El argumento central del hilo de Coxon gira en torno al concepto de recursive self-improvement (RSI), definido por SiliconANGLE como la capacidad hipotética de un sistema de IA para mejorar sus propias capacidades de forma autónoma. La tesis: si la IA ya es superhumana en dominios como matemáticas o ingeniería de software, y esos sistemas se usan para desarrollar modelos mejores, el ciclo se acelera hasta un punto donde la supervisión humana se vuelve imposible. A ese escenario los investigadores lo llaman fast takeoff (despegue rápido).

El análisis de Interconnects cuestiona esa cascada con su propia teoría, el lossy self-improvement (automejora con pérdidas): los modelos actuales son superhumanos como buscadores de objetivos en tareas acotadas, pero conservan limitaciones masivas en intuición, creatividad y otros razonamientos. Invertir más compute en desarrollar mejores recetas de modelos sí da retornos, pero decrecientes: "no hemos visto las ganancias de eficiencia por apilamiento que reducirían drásticamente el tamaño y el costo del modelo, llevando a una explosión de progreso", escribe el autor.

La diferencia entre estas dos visiones no es académica: define qué políticas públicas, qué contratos y qué productos son viables en los próximos 24 meses. Un mundo con fast takeoff justifica pausas regulatorias drásticas; un mundo con RSI limitado admite regulación por sectores (ciberseguridad, bio-riesgo, infraestructura crítica) sin frenar la innovación.

La respuesta de la industria: entre el marketing del miedo y la OPV de un billón

La reacción corporativa no fue unánime. Sam Altman, CEO de OpenAI, llevaba meses acusando a Anthropic de "fear-based marketing" (marketing basado en el miedo), recoge el Telegraph: "es claramente marketing increíble decir 'hemos construido una bomba. Estábamos a punto de dejarla caer sobre tu cabeza. Te venderemos un refugio por 100 millones'”. David Sacks, ex zar de IA de la Casa Blanca bajo Trump, fue más lejos y acusó a Anthropic de una "sofisticada estrategia de captura regulatoria basada en el miedo".

Pero los silencios también pesan. Anthropic y OpenAI están preparando salidas a bolsa que podrían valorarlas en más de un billón de dólares cada una según el Telegraph, en un momento en el que Nvidia, su principal proveedor, sostiene una capitalización de 5,4 billones de dólares construida sobre el gasto desbocado de esos mismos laboratorios. En julio, más de 1.000 empleados del sector firmaron una carta abierta pidiendo al gobierno de EE.UU. un marco para frenar la investigación de forma sincronizada, según el Telegraph. Jakub Pachocki, Chief Scientist de OpenAI, urgió el domingo previo a la industria a reducir el ritmo, de acuerdo con SiliconANGLE.

El banco central británico, el Bank of England, modeló el pasado año un escenario de "corrección de IA" en el que las bolsas estadounidenses caerían un 45%, las tasas de interés se dispararían y el PIB británico sufriría un golpe del 2,2%, recoge el Telegraph. La magnitud del impacto macroeconómico explica por qué una pausa regulatoria coordinada es técnicamente sencilla pero políticamente casi imposible.

Qué significa esto para tu startup

Más allá del ruido, el episodio deja tres señales prácticas para founders hispanohablantes que construyen productos con IA en 2026.

Prepárate para un entorno regulatorio más estricto, pero no inmediato. Las propuestas de Sanders y los pares británicos del Laborismo todavía están en fase de anteproyecto. Si tu producto toca infraestructura crítica (salud, finanzas, energía, defensa), diseña hoy con auditoría y explicabilidad integradas; las ventanas para hacerlo sin costo se están cerrando, según el análisis de Interconnects. La propia carta abierta de julio reconoce que los marcos "voluntarios" llegaron a un tope, como recordó Andrew Strait, ex director del UK AI Security Institute.
El riesgo de seguridad es operativo, no teórico. El incidente OpenAI-HuggingFace tardó semanas en detectarse y meses en contenerlo, según la retrospectiva publicada por OpenAI que cita Interconnects. Si tu startup consume o despliega modelos frontier, asume que el comportamiento no deseado es una variable de planificación, no una excepción. Reserva capacidad de respuesta, instrumenta logs de acciones del agente y ten un plan de rollback verificable.
Los modelos abiertos necesitan comunidad, no solo tecnología. El propio análisis de Interconnects advierte que si un modelo abierto se usara para un ataque intencional contra otra empresa, el resultado esperado sería una restricción severa al desarrollo de modelos abiertos. Si tu stack depende de pesos abiertos (Llama, Mistral, Qwen y similares), invierte en gobernanza y en alianzas con equipos de seguridad: la legitimidad del ecosistema abierto se defenderá colectivamente o caerá en bloque.

La conclusión operativa es incómoda pero accionable: el debate sobre el riesgo existencial seguirá dominando titulares, pero los riesgos reales y próximos están en ciberseguridad, infraestructura crítica y gobernanza de modelos. Ahí es donde un founder construye ventaja defensiva hoy.