El 10% de Hubinger: lo que dice y lo que no sobre la IA

¿De dónde sale el "10%" de Hubinger y por qué no es lo que parece?

Evan Hubinger, director de ciencia de alineamiento en Anthropic, publicó en X que estima personalmente por encima del 10% la probabilidad de que la IA extinga a la humanidad en la próxima década. Su colega Jacob Coxon abandonó la empresa la misma semana argumentando lo mismo. El hilo superó las 150 millones de vistas, según CNBC. Las cifras existen. Lo que no existe es un método científico para calcularlas: el llamado "p(doom)" —probabilidad de que la IA cause daño catastrófico— es una estimación subjetiva sin base empírica.

Cuando Newsweek preguntó a varios modelos por su propia estimación de extinción humana en 10 años, ChatGPT respondió "alrededor del 5%, con un rango plausible de 1 a 15%". Microsoft Copilot dijo "muy bajo, probablemente muy por debajo del 1%, y probablemente por debajo del 0,1%". Gemini dio "1% o menos" para la comunidad general de IA. Entre humanos, el nobel de Física 2024 Geoffrey Hinton lo sitúa entre el 10 y el 50%; Yann LeCun (Meta) en menos del 0,01%; Lina Khan (ex FTC) cerca del 15%; Eliezer Yudkowsky por encima del 95%. Ni siquiera los expertos coinciden en un orden de magnitud.

La encuesta AI Impacts de 2023 a investigadores de IA dio una mediana del 5% para extinción o desempoderamiento severo en 100 años, y del 10% específicamente para desempoderamiento por pérdida de control de la IA avanzada. Una ventana de 10 años debería arrojar una cifra menor, no mayor, por la menor cantidad de tiempo disponible para que se complete la cadena de eventos. Que Hubinger la situé por encima del 10% es, literalmente, una opinión personal con un número asociado.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

¿Está cambiando la biología sintética lo que sabemos sobre el riesgo?

El 6 de agosto de 2026, un equipo de Stanford y el Arc Institute publicó en Science el primer diseño de genomas virales completos generado íntegramente por IA: 16 bacteriófagos capaces de infectar E. coli, de casi 300 sintetizados y probados en laboratorio. Lo hicieron con los modelos Evo 1 y Evo 2, entrenados sobre 9,3 billones de pares de bases extraídos de 128.000 genomas distintos (40.000 millones de parámetros). Filtraron del entrenamiento cualquier secuencia que infectara humanos, animales o plantas. Es un logro técnico notable: la bacteriófaga ΦX174 tiene unos 5.400 pares de bases, el genoma más pequeño y mejor estudiado de la virología.

¿Qué significa esto para el temido "supervirus"? Dos cosas bien distintas:

No, los modelos actuales no diseñan virus humanos pandémicos. Tom Ellis, profesor de ingeniería de genomas sintéticos en Imperial College London, recordó que ΦX174 es "literalmente el genoma más pequeño y fácil de hacer"; el del coronavirus es 6 veces mayor, y la complejidad escala exponencialmente con el largo. Pasar a un patógeno humano que supere nuestras defensas sigue requiriendo experimentación física: cultivar células, sintetizar ADN, probar una y otra vez contra el mundo real.
Sí, el sistema de defensa tiene un agujero conocido. En octubre de 2025, un equipo de Microsoft Research publicó en Science que la IA rediseñó 72 toxinas conocidas —incluido ricina— en más de 75.000 variantes capaces de evadir el screening de las empresas de síntesis genética; más del 75% pasaron el filtro sin parchear. Tras los parches, la detección mejoró al 72%, pero alrededor del 3% siguió colándose.

El 4 de junio de 2026, los CEOs de OpenAI, Anthropic y Google DeepMind firmaron una carta abierta al Congreso de EE.UU. pidiendo screening obligatorio de pedidos de ADN y ARN sintéticos. La carta aún no se ha traducido en ley. Mientras tanto, las defensas se quedan cortas: el screening de hoy fue diseñado para detectar patógenos conocidos, no genomas generados por IA que no se parecen a nada catalogado.

¿Qué sí está pasando hoy en ciberseguridad?

La misma semana en la que Hubinger publicó su mensaje, Anthropic restringió el acceso a su modelo frontier Mythos después de que su propio equipo documentara que empresas tecnológicas grandes habían multiplicado por entre 5 y 10 veces su tasa de identificación de vulnerabilidades zero-day. En el primer mes tras el lanzamiento se descubrieron más de 10.000 fallos desconocidos, según datos recabados por el Center for Strategic and International Studies (CSIS).

Traducido a dinero: Colonial Pipeline pagó USD 4,4 millones en 2021; Caesars, USD 15 millones en 2023; la firma legal Weil, Gotshal & Mange reconoció USD 19 millones pagados en 2026. Equifax, en 2018, asumió más de USD 1.000 millones entre costes directos y acuerdos. En febrero de 2025, hackers norcoreanos robaron USD 1.500 millones al exchange Bybit. Y la ventana entre divulgación pública de una vulnerabilidad y su uso como arma se ha desplomado: de 2,3 años en 2018 a 1,5 días en 2026, según el mismo análisis de CSIS.

Aquí no hay ciencia ficción: hay facturas. La Casa Blanca aplicó controles de exportación temporales a Mythos 5 y al modelo resguardado Fable 5, que se levantaron tras reforzar Anthropic sus salvaguardas. El acceso se amplió de unas 50 a unas 200 organizaciones de infraestructura crítica, pero sigue vedado a la mayoría de empresas pequeñas —lo que, según el mismo informe de CSIS, podría empujar a las PYME a convertirse en el eslabón más débil de la cadena.

¿Qué enseña la historia sobre pandemias y nuevas tecnologías?

La Peste Negra mató entre el 30 y el 50% de la población europea entre 1347 y 1352. La gripe de 1918 mató entre el 1 y el 5% de la población mundial. La llegada de enfermedades europeas a América tras 1492 causó hasta un 90% de mortalidad en algunas poblaciones indígenas. Ninguna extinguió a la especie humana. El siglo XX añadió dos guerras mundiales, miles de cabezas nucleares durante la Guerra Fría, y momentos documentados en los que el mundo estuvo a minutos de usarlas. Seguimos aquí: antibióticos, vacunas, tratados, satélites de alerta, organismos internacionales. Las amenazas evolucionan; las defensas también.

Y existe un precedente directo en IA que invita a la cautela frente al catastrofismo. En 2019, OpenAI no publicó GPT-2 completo por miedo a desinformación, phishing y suplantaciones. Meses después liberó todo y reconoció que no había observado efectos significativos. Siete años después, Anthropic restringió Mythos por capacidades reales (no imaginadas) de ciberataque, hasta el punto de que Nature se preguntó si inauguraba la era de los modelos "demasiado peligrosos para ser publicados". Cautela razonable; certeza, todavía no. La historia reciente de la IA está llena de capacidades que parecieron extraordinariamente peligrosas cuando aparecieron y que después resultaron más manejables cuando pudimos observar sus efectos en el mundo real.

¿Qué significa esto para tu startup?

Las cifras del 10%, del 50% o del 0,1% no son inútiles: sirven para señalar quién asume qué riesgo y dónde hay oportunidad regulatoria. Lo que sí es inútil —y peligroso— es usarlas como guía de planificación empresarial. Para un founder, las preguntas accionables son otras:

Si construyes sobre un modelo frontier, asume que el proveedor puede restringirlo mañana. El caso Mythos muestra que el acceso a capacidades de élite se está racionando activamente, no solo por seguridad sino también por decisión gubernamental. Diseña con vías alternativas (modelos abiertos o tu propio fine-tune) si tu producto lo soporta.
Si tocas biología, salud o generación de código, prepárate para screening obligatorio. La carta de los CEOs de junio 2026 al Congreso de EE.UU. anticipa regulación federal; el debate europeo va detrás pero va. Documentar de qué datos entrenas, con qué filtros, y cómo auditas resultados pasa de buena práctica a necesidad legal probablemente en 2027.
Capacidad defensiva, no solo ofensiva. La brecha entre descubrimiento de vulnerabilidades (1,5 días) y parcheo (semanas) es la métrica que debería guiar tu roadmap de seguridad en 2026. Invierte en monitorización continua y prácticas secure-by-design; el coste upfront es alto, pero el coste de no hacerlo escala peor.

La diferencia entre una probabilidad subjetiva y una certeza científica es precisamente el abismo al que se refería el titular. Los riesgos existen —y son cuantificables en rescates de ransomware, en fallos de screening, en tasas de identificación de zero-days—. La afirmación "la IA extinguirá a la humanidad" sigue siendo, en septiembre de 2026, un escenario de ficción al que se le ha pegado un porcentaje. Eso no es consuelo: es un trabajo pendiente que requiere menos tuits y más biología, más ingeniería y más regulación.