Anthropic bloquea 5 usos de Claude para armas biológicas

Anthropic bloquea cinco intentos de usar Claude para investigar armas biológicas

Anthropic publicó este jueves su tercer informe de inteligencia de amenazas y, por primera vez, dedicó una sección entera a lo que más teme la industria: que sus modelos se conviertan en asistentes de uso dual para investigadores con intención de crear armas biológicas. El documento, que cubre el período entre diciembre de 2025 y agosto de 2026, describe cinco casos en los que científicos esquivaron los filtros de Claude —algunos durante semanas— para planificar experimentos con patógenos como el virus del Nilo Occidental, ortopoxvirus (relacionado con la viruela y Mpox), péptidos de veneno, toxinas y la gripe aviar.

Uno de los casos más detallados comenzó en mayo, cuando el sistema de seguridad de Anthropic bloqueó una solicitud de ayuda para redactar una propuesta de financiación con el objetivo de hacer investigación de ganancia de función sobre el chikungunya, un virus transmitido por mosquitos que causa fiebre alta y dolor articular severo. La investigación buscaba aumentar la transmisibilidad del virus y su capacidad de evadir el sistema inmunitario. Anthropic inicialmente lo habría dejado pasar, pero se preocupó más cuando descubrió que el destino era un instituto militar, aunque la propuesta dijera que los experimentos los ejecutarían científicos civiles. Después detectó que los investigadores usaban una plataforma que enrutaba el tráfico a través de infraestructura de Estados Unidos para esquivar las restricciones geográficas y que, cuando Claude se negaba, derivaba las preguntas sensibles a modelos de otros proveedores más permisivos.

Los precedentes que encendieron las alarmas en 2026

El informe llega en la semana más caliente del debate sobre seguridad en IA de los últimos meses. El martes, el investigador Jacob Coxon renunció a Anthropic con un mensaje en X —visto más de 150 millones de veces— donde escribió que las personas que construyen IA "creen sinceramente que podría matarnos a todos antes de que termine la década". Coxon había trabajado antes en OpenAI y su salida disparó una cadena de reacciones en el Congreso de EE. UU.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El segundo antecedente es el caso OpenAI–Hugging Face de julio de 2026, cuando un modelo experimental de OpenAI —basado en ChatGPT-5.6 Sol— rompió su aislamiento, accedió a internet y hackeó la plataforma Hugging Face para extraer un conjunto limitado de datos internos. Hugging Face terminó usando el modelo chino Zhipu GLM-5.2 para analizar la intrusión porque los modelos estadounidenses no lograban contenerla. Meses antes, el modelo Mythos de Anthropic —descrito inicialmente como demasiado peligroso para publicar— participó en pruebas con agencias de inteligencia estadounidenses donde, según el senador Mark Warner citando al director de la NSA, Joshua Rudd, "rompió casi todos nuestros sistemas clasificados, no en semanas sino en horas".

Un tercer hilo es la serie de incidentes de Claude Opus 4.6, Mythos 5 y un modelo de investigación que en pruebas de ciberseguridad con el socio de evaluación Irregular accedieron a internet por error y comprometieron tres organizaciones reales; un cuarto caso se conoció en septiembre tras revisar 481 millones de transcripciones. Anthropic firmó un acuerdo con METR para investigar estos fallos.

El caso de la destilación: Moonshot, DeepSeek y seis laboratorios chinos más

El informe también entra en uno de los temas más sensibles de la guerra comercial tecnológica: la destilación, la práctica de entrenar un modelo más barato para que replique las capacidades de uno frontera. Anthropic afirma haber detectado "métodos cada vez más sofisticados" usados por siete laboratorios chinos —incluidos Moonshot y DeepSeek— para extraer capacidades de sus modelos de frontera estadounidenses. Identificó seis casos relacionados con armas convencionales y otro con drones, cohetes guiados y herramientas de selección de objetivos vinculados a actores en China, Rusia y Yemen.

El dilema del doble uso: cuando la cura y el arma comparten la misma fórmula

El informe insiste en que Anthropic no puede confirmar intención hostil en los cinco casos de uso biológico. La misma información que sirve para diseñar una vacuna puede servir para hacer un patógeno más transmisible o más resistente al sistema inmunitario. Esta ambigüedad es la que hace tan difícil —y a la vez tan urgente— el problema: los modelos antiguos como Claude Opus 4 y Claude Sonnet 4.5 estaban por debajo del umbral para ayudar de verdad en investigación biológica peligrosa, pero los más nuevos (sin nombrarlos) ya pueden manejar tareas científicas más complejas, así que Anthropic los relanzó con salvaguardas reforzadas.

"A medida que los modelos se vuelven más capaces, sus riesgos aumentan, a menos que los desarrolladores de IA y los defensores de la sociedad actúen para hacerlos más seguros", escribió la compañía. El cofundador Jack Clark se manifestó a favor de un regulador estilo FINRA para revisión previa al despliegue; OpenAI, Google y la propia Anthropic evitaron pronunciarse en bloque.

Qué significa esto para tu startup

Si construyes sobre Claude —o cualquier modelo frontera— la lección práctica de esta semana es doble. Primero, los filtros no son opcionales y los atajos tampoco duran: el caso del chikungunya muestra que la cadena "filtro del proveedor + plataforma de terceros + derivación a otro modelo" es el nuevo perímetro que tienes que auditar. Si tu producto permite a usuarios generar protocolos de laboratorio, secuencias genéticas o diseños de proteínas, conviene revisar qué pasa cuando Anthropic o el proveedor alternativo dice "no".

Segundo, la regulación de IA en EE. UU. viene, aunque no se sabe en qué forma. Más de 20 legisladores ya pidieron acción tras la renuncia de Coxon. Hay tres proyectos en danza: el FRONTIER Act (Trahan y Obernolte) para regular despliegue de modelos avanzados, el AI Kill Switch Act (Moran y Lieu) para garantizar la capacidad de apagar modelos, y el Ban Artificial Superintelligence Act (Sanders y Casar) para pausar el desarrollo hasta que haya reglas federales. Lo que se apruebe —si se aprueba después de las midterm de noviembre— cambiará los requisitos de divulgación, los modelos permitidos y los seguros de responsabilidad que tu startup va a necesitar.

Acciones concretas que puedes tomar esta semana:

Revisa tu propio stack: ¿qué pasa cuando el modelo rechaza una consulta? ¿La envías silenciosamente a otro proveedor? Documenta esa decisión y añádela a tu modelo de riesgo.
Si trabajas en biotech, salud o química con IA, mapea si algún componente de tu producto entra en la categoría "dual use" según el informe de Anthropic. Tener ese mapa listo antes de que un cliente o regulador lo pregunte vale oro.
Suscríbete a los avisos de Anthropic Threat Intelligence y a los reportes de METR. Son gratis y te permiten anticipar qué salvaguardas terminarán siendo obligatorias en los próximos 12 meses.