Anthropic: la renuncia que reabrió el debate de seguridad en IA

La renuncia que sacudió a Anthropic

El lunes 7 de septiembre de 2026 por la noche, Jacob Coxon, investigador de Anthropic, publicó en X su renuncia a la compañía argumentando que los laboratorios de IA avanzan hacia sistemas que podrían volverse incontrolables antes de que termine la década. El mensaje superó las 110 millones de vistas en menos de 24 horas, según reportó The Register.

Coxon llevaba pocos meses en Anthropic tras haber trabajado antes en OpenAI. Su paso por ambas compañías lo había situado en el centro de la carrera por la llamada "superinteligencia auto-mejorable", un concepto que describe sistemas de IA capaces de avanzar por sí mismos sin dirección humana significativa, una capacidad que aún no existe pero que los laboratorios persiguen activamente, según Yahoo News.

Evan Hubinger, líder científico de alineación en Anthropic, respaldó públicamente a su ex colega: "Personalmente creo que hay más de un 10% de probabilidad de que la IA lleve a la extinción humana esta década", escribió en X. "Anthropic está haciendo su mejor esfuerzo, pero todavía no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente en camino de tenerlo".

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

La grieta dentro del propio laboratorio

La renuncia expone una contradicción incómoda para Anthropic. La compañía se presenta como el "laboratorio seguro" del sector, fundada precisamente por exinvestigadores de OpenAI que salieron porque consideraban que la seguridad no era prioritaria. Ahora pierde a un empleado por el mismo motivo.

Anthropic ya había pedido públicamente este año un mecanismo coordinado entre desarrolladores y gobiernos para frenar o pausar temporalmente el desarrollo de modelos frontera, reportó Yahoo News. Su cofundador Jack Clark describió el momento como "un coche con solo pedal de acelerador y sin freno".

Mientras tanto, la presión regulatoria se acumula desde varios frentes. El senador Bernie Sanders envió cartas el mes pasado a los CEOs de Anthropic, OpenAI y Meta exigiendo una pausa en el desarrollo de IA. Y la orden ejecutiva firmada por el presidente Donald Trump a principios de junio de 2026 dio a las agencias federales 60 días, hasta el 1 de agosto, para desarrollar un marco de evaluación. En esa ventana, Anthropic tuvo que desactivar el acceso a sus modelos Fable 5 y Mythos 5 para cumplir con una directiva de control de exportaciones del Departamento de Comercio, según CNBC. Dos semanas después, OpenAI acordó limitar el despliegue de su serie GPT-5.6 a "socios de confianza" a pedido del gobierno de EE UU.

El contraargumento: el problema no son los modelos, son las empresas

Thomas Claburn, columnista de The Register, cuestiona la premisa de Coxon y propone un giro: los modelos de IA no matan personas, las personas matan personas. Y quienes deberían pagar no son las máquinas, sino los ejecutivos que las despliegan sin asumir responsabilidad.

Su evidencia comparativa es directa. Un estudio publicado en Science Direct y citado por The Register atribuye más de 178.000 muertes en 2023 a una ola de calor global; el 54,29% de ellas, alrededor de 96.636, son atribuibles al cambio climático inducido por la actividad humana. La Organización Mundial de la Salud estima que entre 2030 y 2050 el cambio climático causará aproximadamente 250.000 muertes adicionales al año por desnutrición, malaria, diarrea y estrés térmico.

Por contraste, los chatbots comerciales de IA han jugado un papel en algunas decenas de muertes, según el registro aimortality.org, incluidos suicidios. Es una fracción pequeña de las 48.824 muertes por suicidio registradas en 2024 por los CDC de EE UU. Hay otras categorías de daño tangible y presente: drones dirigidos por IA, errores médicos asistidos por IA, fallos de visión artificial en vehículos autónomos y la incitación algorítmica en redes sociales.

"Los riesgos reales y presentes de la IA no provienen de una hipotética superinteligencia", argumenta Claburn. "Provienen de empresas que lanzan modelos al mundo sin asumir responsabilidad por lo que hacen sus productos".

El precedente: a la cárcel por vender productos inseguros

La columna recupera tres casos que prueban que la responsabilidad penal personal por productos defectuosos no es un concepto nuevo:

Volkswagen / Oliver Schmidt: el exdirector general de la oficina de ingeniería ambiental de VW en Michigan recibió una pena de siete años de prisión por su rol en el escándalo de manipulación de emisiones Dieselgate, según The Guardian.
Takata: el fabricante japonés de airbags acordó declararse culpable y pagar US$1.000 millones en sanciones penales tras vender airbags defectuosos vinculados a múltiples muertes. Los ejecutivos pagaron multas en lugar de cumplir cárcel.
Gree USA: los ejecutivos detrás de la venta de deshumidificadores inseguros recibieron condenas de más de cuatro años de prisión, en la primera prosecución penal bajo la normativa de reporte de productos defectuosos, según el Departamento de Justicia de EE UU.

"Si los modelos de IA son tan peligrosos como dicen los empleados de Anthropic, hay que hacer responsables a las personas por el daño que causan", escribe Claburn. "Si la industria responde que encarcelar a los ejecutivos significaría que no se lanzarían modelos, ese es precisamente el punto".

Qué significa esto para tu startup

El debate importa aunque no construyas modelos frontera. Tres implicaciones prácticas:

La responsabilidad ejecutiva se está convirtiendo en ley de hecho. EE UU ya exige evaluación previa al lanzamiento de modelos "cubiertos" y limita exportaciones. Si tu startup integra modelos de Anthropic, OpenAI o un proveedor chino de código abierto, estás dentro de una cadena de cumplimiento que puede cambiar de un día para otro. Ten un plan B de proveedor y documenta qué versión exacta de qué modelo usas y bajo qué licencia.
El precedente penal ya existe en otras industrias. Los fundadores de startups de salud, fintech o productos físicos siempre han vivido bajo riesgo de responsabilidad personal. Si construyes sobre IA, ese riesgo se expande a un terreno nuevo: alucinaciones que generan daño reputacional o financiero a clientes, automatización que toma decisiones de crédito o salud, y contenido generado que viola regulación sectorial. Contratos, seguros de responsabilidad civil y cláusulas de indemnidad dejan de ser opcionales.
La narrativa pública se está moviendo más rápido que la ley. Una columna en The Register, 110 millones de vistas en X, cartas de un senador y una orden ejecutiva de la Casa Blanca en menos de tres meses. El tema ya no es marginal: inversores y clientes corporativos van a preguntar por postura de seguridad y gobierno de IA antes de firmar un contrato.

Conclusión

El argumento de Coxon y Hubinger —que la IA podría matar a todos los humanos esta década— es extremo y difícil de verificar. El contraargumento de Claburn es más mundano y más accionable: mientras se debaten escenarios de ciencia ficción, las empresas de IA están desplegando productos reales con consecuencias reales, y los ejecutivos que los aprueban no enfrentan consecuencias personales todavía.

Para un founder, la lectura práctica es directa. La seguridad de IA dejó de ser un argumento de marketing para convertirse en un eje de cumplimiento regulatorio y de riesgo legal personal. Construir productos seguros no es opcional ni ético: es estratégico.