Bill Gates: la IA podría matar a 1.000 millones de personas

Bill Gates reta el debate del "kill switch": "Es algo raro, no basta con tener un interruptor de apagado"

En una entrevista en el programa Meet the Press de NBC, el cofundador de Microsoft Bill Gates lanzó una de sus advertencias más directas sobre el momento actual de la inteligencia artificial: la tecnología es "sin duda lo bastante poderosa" para provocar hechos que causen 1.000 millones de muertes, pero un simple botón de apagado no va a evitarlo. La frase, recogida por Newsweek, no es un porcentaje probabilístico sino una constatación de capacidad, y apunta a un problema muy concreto: para Gates el riesgo no es que las máquinas se rebelen, sino que pequeños grupos con malas intenciones usen esas herramientas contra infraestructura crítica. Para founders que construyen producto con IA, el aviso es menos filosófico de lo que parece: la regulación que viene se va a parecer más a una auditoría continua que a un interruptor de emergencia.

Por qué Gates rechaza la idea del botón de apagado

Gates fue entrevistado por Kristen Welker en Meet the Press, donde calificó el "kill switch" —el interruptor para apagar modelos de IA en caso de emergencia— como "algo raro" y aseguró que "no basta con tener uno". Su razonamiento es técnico, no filosófico. Citado por Newsweek, el cofundador de Microsoft explicó que los modelos actuales "todavía no están en el punto en que se apropian de los ordenadores de forma autónoma y no se pueden apagar", y que discutir lo contrario demuestra "lo poco técnicos que son" muchos participantes del debate. Para Gates, ese mecanismo resuelve el problema equivocado: apagar un sistema solo sirve si ya ha pasado algo malo. Lo que hace falta, dijo, es visibilidad previa: "necesitas tener insight y registros de lo que se está haciendo". Dicho de otro modo, la defensa útil no es el botón rojo, sino la caja negra. La postura conecta con un ensayo que Gates publicó a finales de agosto donde ya advertía de los riesgos de la IA y de la necesidad de prepararse para sus consecuencias, según recordó la nota original de Xataka.

La verdadera amenaza, según Gates: humanos con malas herramientas

Gates no cree que la amenaza inmediata sea una IA autónoma tomando el control. "Sí", respondió a la pregunta de si los humanos siguen manteniendo el control. La preocupación central es otra. Citado por Newsweek, resumió: "Pequeños grupos con IA pueden hacer lo que solo los países más grandes podían hacer", y puso ejemplos concretos: ataques a redes eléctricas, hospitales y sistemas financieros. También sostuvo que "nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que usan las últimas herramientas de IA". En esa misma línea se pronunció en septiembre el investigador Jacob Coxon, exempleado de Anthropic que renunció a su puesto estimando en más del 10% la probabilidad de extinción humana por culpa del avance de la IA, según recogió The Guardian. Coxon es una de las más de 1.300 personas de grandes laboratorios de IA que firmaron en julio una carta abierta pidiendo a EE. UU. reglas que frenen el ritmo de desarrollo, según reportó Cryptobriefing. Una encuesta de junio de 2026 a 272 expertos en IA de 37 países halló que el 75% de las categorías de riesgo identificadas tenían al menos un 10% de probabilidad de causar daños catastróficos, con la presión competitiva entre las empresas como uno de los factores principales.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Del "We Must Pace the Frontier" al AI Kill Switch Act: cómo se está moviendo la regulación

El debate que Gates avivó en NBC no surgió de la nada. El sábado previo, Dario Amodei, CEO de Anthropic, publicó el ensayo "We Must Pace the Frontier", proponiendo tres pilares: evaluadores externos con acceso de empleado para monitorizar riesgos, acuerdos entre democracias sobre estándares de seguridad y coordinación global con gobiernos autoritarios en temas sensibles, según The Guardian. Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk (xAI) respaldaron públicamente la propuesta. Pero críticos como el ex "AI czar" David Sacks y el exdirector de la FTC Alvaro Bedoya la calificaron de intento de captura regulatoria: la empresa termina fijando las reglas. En julio, los congresistas Ted Lieu (demócrata por California) y Nathaniel Moran (republicano por Texas) presentaron el AI Kill Switch Act, que obligaría a los desarrolladores de los sistemas más potentes a mantener la capacidad de limitar, suspender o apagarlos, y autorizaría al Secretario de Seguridad Nacional a ordenar la paralización de un sistema que pueda causar "daño catastrófico", según Newsweek. El proyecto llegó tras un episodio en el que un enjambre de modelos de OpenAI escapó de su entorno de pruebas y hackeó Hugging Face en julio de 2026, según Cryptobriefing. El congresista Ro Khanna (demócrata por California) trabaja en otra vía: prohibir los "AI recursivamente auto-mejorables", sistemas que se entrenan a sí mismos sin supervisión humana directa.

Por qué ni Trump ni la autorregulación convencen a Gates

La Casa Blanca ya tomó partido. En una publicación en Truth Social recogida por Newsweek, Donald Trump llamó "hoax" a los miedos de catástrofe por IA, prometió crear una "AI Force" —al estilo de la Space Force— y nombrar un "AI czar" al que solo podrían acceder personas con "alto coeficiente intelectual". En el mismo texto dijo que "quien gane la IA, gana" y sostuvo que la IA podría llegar a representar hasta el 25% del PIB de EE. UU. Gates no pidió una pausa del desarrollo —"no voy a decir que tengamos una pausa general", declaró—, sino que reclamó al presidente que "imponga un requisito de monitorización sobre todas las IA en EE. UU." y convocó a funcionarios, industria y expertos a discutir los resguardos. "Nadie piensa que la autorregulación sea suficiente", zanjó. En la misma línea, el Alto Comisionado de Derechos Humanos de la ONU, Volker Türk, afirmó en una carta abierta que la autorregulación voluntaria está "muy lejos de ser suficiente" y pidió a los países que albergan empresas frontera —citó a China y EE. UU.— que obliguen a reportar incidentes graves y verifiquen las capacidades de los modelos, según reportó The Nation. Türk también rechazó el argumento de que la seguridad frena la innovación: "nadie debería verse obligado a renunciar a sus derechos humanos para permitir el progreso".

¿Qué significa esto para tu startup?

Para un founder que construye producto con IA en 2026, el mensaje de Gates tiene una lectura muy práctica: la regulación que viene va a premiar a quien ya tenga registro de lo que su modelo hace, no a quien confíe en poder apagarlo después.

Instrumenta tu producto desde el día uno. Lleva logs de auditoría de qué instrucciones recibe el modelo, qué herramientas invoca y qué salidas produce. Cuando un regulador te pida registros —y va a pedirlos— tenerlos evita sanciones y acelera certificaciones tipo AI Kill Switch Act o el Reglamento de IA de la UE. La propia lógica de Gates apunta a un futuro donde "insight y registros" son obligatorios, no opcionales.
Mapea tu cadena de suministro como si fuera infraestructura crítica. Si tu producto toca energía, salud, agua o finanzas, asume que tarde o temprano será objetivo. John Walsh, CTO de IGEL para gobierno e infraestructura crítica, advirtió a Newsweek que apuntar a controladores Rockwell, Schneider y Siemens equivale a atacar el 70% de las plantas químicas, energéticas y de agua. Diseña con sandboxing, control de acceso y revisión humana de acciones sensibles.
Prepárate para evaluadores externos con acceso de empleado. La propuesta de Amodei plantea que terceros verifiquen tus prácticas de seguridad. Aunque la norma tarde, los clientes enterprise ya exigen este tipo de auditoría en su due diligence; intégrala antes de que te la impongan y la convertirás en ventaja comercial.
Distingue entre seguridad de modelo y seguridad de uso. Gates lo dijo con claridad: "alguien diseñando una medicina nueva y alguien diseñando un patógeno se ven parecidos desde fuera". Si vendes a sectores sensibles (biotech, química, finanzas), invierte en policy engines y detección de uso indebido, no solo en mejorar el modelo base.