Anthropic y OpenAI en jaque por la seguridad de la IA

La renuncia que reabrió el debate sobre la extinción

El 8 de septiembre de 2026, Jacob Coxon, un investigador de 27 años con tres años de experiencia en pretraining repartidos entre OpenAI y Anthropic, publicó un hilo en X anunciando su salida de Anthropic. Su mensaje, visto decenas de millones de veces, acusaba a ambos laboratorios de "correr directo hacia una superinteligencia que se mejora a sí misma y apostar con nuestras vidas" (IBTimes, a partir del hilo original).

La sacudida llegó cuando Evan Hubinger, líder de ciencia de alineación en Anthropic, salió a respaldarlo con una cifra: "personalmente creo que es >10% en la próxima década". Hubinger aclaró que su preocupación no son los modelos actuales, sino el umbral hipotético de una inteligencia con capacidad de automejora recursiva (IBTimes).

Por qué importa para founders y empresas de tecnología

Esta discusión ya no vive en papers académicos. Influye directamente en qué productos de IA vas a poder integrar mañana, qué restricciones regulatorias van a aterrizar en tu mercado y cómo van a comportarse los inversores cuando evalúen tu tesis técnica.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Si sos un founder hispanohablante construyendo sobre APIs de OpenAI o Anthropic, la velocidad regulatoria que se decida en Washington y en Bruselas termina filtrándose a Latinoamérica vía compliance de proveedores y contratos enterprise.

La grieta interna en OpenAI y Anthropic

La renuncia de Coxon no fue un hecho aislado. Julie Steele, del equipo de seguridad de OpenAI, y Jasmine Wang, investigadora de alineación de la misma compañía, escribieron en X que el desarrollo necesita frenarse. En Anthropic, Anna Wang agregó que "no existe todavía un plan científico viable" para gestionar sistemas que se mejoren a sí mismos (Yahoo News).

El propio Jakub Pachocki, chief scientist de OpenAI, escribió en un blog corporativo que espera un progreso rápido hacia la automejora recursiva y que el momento exige "precaución extrema" (Yahoo News). Sumado al ingreso de Paul Christiano — ex jefe de seguridad del Center for AI Standards and Innovation del Departamento de Comercio de EE.UU. — al directorio de la OpenAI Foundation, el mensaje es claro: los propios constructores están dudando de la velocidad de su propia carrera.

Las voces disidentes también existen. Clement Delangue, CEO de Hugging Face, comparó pedirle a Coxon su opinión sobre riesgo de extinción con "preguntarle a tu técnico de aire acondicionado sobre cambio climático", señalando que su experiencia es en pretraining, no en evaluación de riesgos catastróficos. Elon Musk calificó el episodio como una "psy op" preparada durante mucho tiempo (Business Insider vía AOL).

Anthropic contra el Pentágono: el poder detrás del clic

El conflicto entre Anthropic y el gobierno de EE.UU. escaló durante 2026. En febrero, el Pentágono — entonces bajo Pete Hegseth —designó a Anthropic como "riesgo para la cadena de suministro de seguridad nacional" después de que la empresa se negara a permitir el uso de Claude para vigilancia masiva de ciudadanos estadounidenses y armas autónomas letales sin supervisión humana (Ars Technica, The Daily Record).

El 27 de agosto de 2026, la jueza federal Rita Lin (Northern District of California) emitió un fallo de 59 páginas declarando la designación "ilegal y sin fundamento". En su orden, Lin escribió que "la invocación vacía de seguridad nacional no es un cheque en blanco para castigar y retaliary contra críticos del gobierno" (Ars Technica). El fallo concedió porciones clave de la moción de Anthropic por summary judgment y ordenó al gobierno rescindir las directivas.

Lo que está en juego excede a Anthropic: sienta precedente sobre hasta dónde puede llegar un gobierno para forzar a una empresa tecnológica a retirar barreras éticas en sus productos. Anthropic tiene una segunda demanda pendiente en Washington D.C. que podría excluirla también de contratos civiles.

Qué cambia para tu startup

Los movimientos regulatorios que veas en EE.UU. y Europa en los próximos 12 meses van a impactar directamente cómo construís productos con IA. Algunas decisiones que podés tomar ahora:

Diseñá tu stack con arquitecturas intercambiables. Si tu producto depende de una sola API (Claude, GPT-5.6 u otro), un cambio regulatorio puede dejarte sin proveedor overnight. Construí capas de abstracción que te permitan migrar entre modelos en días, no en meses.
Documentá los límites éticos de tu producto desde el día uno. Cuando un cliente enterprise o un regulador te pregunte qué hace y qué no hace tu sistema, tener un registro público de restricciones voluntarias vale oro — y te diferencia de la competencia en licitaciones grandes.
Monitoreá el riesgo de proveedores como parte de tu compliance. Si Anthropic puede ser designada como riesgo de cadena de suministro por negarse a usos específicos, cualquier proveedor de modelos en tu stack puede sufrir volatilidad reputacional o contractual. Sumalo a tu matriz de riesgo.
Diversificá geográficamente tu exposición a modelos. Una desaceleración unilateral de EE.UU. abre margen para que proveedores chinos (DeepSeek, los modelos abiertos de Alibaba) capturen mercado en LATAM. Tener al menos un proveedor alternativo ya testeado te da flexibilidad si el precio o el acceso cambian.

Lo que viene

El Senado de EE.UU. tiene sobre la mesa el Ban Artificial Superintelligence Act, que pausaría el desarrollo de IA avanzada hasta que se establezcan reglas de seguridad. Una carta abierta firmada por aproximadamente 1.400 investigadores —incluyendo personal de OpenAI, Anthropic, Meta y Google DeepMind— pidió al gobierno estadounidense construir capacidad institucional para gestionar el ritmo del desarrollo (Yahoo News).

El dilema de fondo es geopolítico: una pausa unilateral de EE.UU. entrega ventaja competitiva a China. Pero los propios investigadores que están dentro de los laboratorios están diciendo que no tienen un plan probado. Esa brecha entre la velocidad de despliegue y la velocidad de comprensión es, probablemente, el riesgo operativo más subestimado del ecosistema startup tecnológico en este momento.