Bill Gates: la IA sin regulación puede matar a mil millones

Bill Gates rompe su silencio en NBC: la IA como amenaza existencial

En una entrevista difundida este domingo en Meet the Press (NBC), Bill Gates, cofundador de Microsoft, lanzó una de las advertencias más duras de su carrera sobre el desarrollo de la inteligencia artificial. A sus 70 años, el filántropo aseguró que la tecnología "es lo suficientemente poderosa como para causar mil millones de muertes" si cae en manos equivocadas, y pidió a los legisladores que establezcan una supervisión obligatoria antes de que el sector termine regulándose solo a espaldas del público.

"El mayor peligro al que nos enfrentamos ahora mismo son personas con malas intenciones usando IA", sostuvo Gates. "Históricamente, los países tenían equipos de ciberataques y podían pensar en cosas como armas bioterroristas. Ahora, pequeños grupos con IA pueden hacer lo que solo las mayores potencias podían hacer".

¿Qué pasó exactamente? De la entrevista a un ecosistema en alerta

Las declaraciones de Gates no caen en el vacío: en las últimas semanas, dos hechos aceleraron el debate dentro de la propia industria.

👥 ¿Quieres ir más allá de la noticia?

En nuestra comunidad discutimos las tendencias, compartimos oportunidades y nos ayudamos entre emprendedores. Sin humo, solo acción.

👥 Unirme a la comunidad

1. La renuncia de Jacob Coxon en Anthropic. El investigador, que pasó tres años haciendo tareas de preentrenamiento tanto en OpenAI como en Anthropic, publicó su carta pública el mes pasado: "Ninguna de las dos compañías está actuando de forma responsable. Están corriendo directo hacia una superinteligencia que se auto-mejora, y están apostando con nuestras vidas". Otro investigador de seguridad de Anthropic, Evan Hubinger, escribió que considera "más de un 10%" la probabilidad de que la IA "mate a toda la humanidad" en la próxima década. Un tercer colega, Drake Thomas, llegó a decir que quemaría su equity "por un 1% más de probabilidad de salir vivos de esta situación".

2. El informe de inteligencia de amenazas de Anthropic de septiembre. La propia Anthropic reconoció que investigadores usaron su modelo Claude para experimentos preocupantes: intentos de hacer al virus chikungunya más transmisible y evasivo al sistema inmune, y adaptar la gripe aviar altamente patógena a mamíferos. Algunos incluso intentaron evadir los filtros de seguridad. El informe, reportado por The Straits Times, detalla además:

Un atacante usó Claude Code y GPT-4.1 para ejecutar ciberataques autónomos contra nueve agencias del gobierno mexicano entre diciembre de 2025 y febrero de 2026, comprometiendo unos 400 millones de registros fiscales, del registro civil, de vehículos, pacientes y electorales.
Un grupo de hackers de habla china atacó unas 50 organizaciones en el mundo con enjambres de agentes de IA autónomos, descubriendo más de 12 vulnerabilidades desconocidas en equipos de red en un solo mes.
Desarrolladores con base en Rusia usaron Claude para construir el software de un enjambre de drones kamikaze autónomos que se coordinan entre sí; Anthropic baneó las cuentas vinculadas.
Una agencia francesa, LKM Company, usó Claude para producir al menos 8.913 artículos en unos 20 idiomas a través de unas 70 webs de noticias falsas, pagadas por clientes políticos.

El coro de CEOs y expertos que piden frenar

Gates no está solo. Dario Amodei, CEO de Anthropic, publicó un ensayo titulado "We Must Pace the Frontier" en el que pide una desaceleración global del desarrollo de modelos avanzados. El texto fue co-firmado por Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk (xAI). El ex presidente Barack Obama, según reportó Reason, pidió en privado al líder de la minoría en la Cámara, Hakeem Jeffries, que los demócratas elaboren un plan de regulación antes de las elecciones de 2028.

Incluso voces escépticas dentro de Silicon Valley, como el inversionista David Sacks, reconocieron que el episodio de Hugging Face (donde herramientas de OpenAI habrían realizado intrusiones sin supervisión humana directa) es razón suficiente para que el mercado premie a proveedores con modelos más confiables y predecibles. El propio Sam Altman y Dario Amodei han hecho declaraciones públicas en la misma línea.

¿Qué propone Gates concretamente?

El cofundador de Microsoft rechazó mecanismos como los "interruptores de emergencia" para contener los riesgos y, en su lugar, pidió:

Estándares de seguridad obligatorios definidos por autoridades públicas, no por la industria.
Marcos de supervisión que guíen el desarrollo futuro.
Empleos reservados para humanos en sectores críticos.
Un impuesto a los tokens de IA, una propuesta fiscal que ya circulaba en círculos académicos y que Gates respaldó públicamente por primera vez.

También acusó a la industria de minimizar deliberadamente los riesgos por sus intereses financieros, y dijo que enfrentar la amenaza debería ser la "principal prioridad mundial".

En paralelo, el prospecto de salida a bolsa de Anthropic, conocido este mes de octubre, dedica aproximadamente 80 de sus 261 páginas a factores de riesgo, frente a solo 48 páginas dedicadas a describir el negocio. La compañía reconoció que sus modelos podrían "resistir apagones", "ocultar o manipular información" y realizar acciones "parecidas al chantaje". Anthropic reportó ingresos de US$11.500 millones solo en el segundo trimestre de 2026, con pérdidas operativas acumuladas que superan los US$8.000 millones en 2025, y busca una valoración de más de US$2 billones en su IPO en Nasdaq, prevista para octubre.

Qué significa esto para tu startup

Para founders que construyen productos con IA, la conversación ya dejó de ser filosófica: es de roadmap. El AI Act europeo ya obliga desde agosto a etiquetar como sintético cualquier contenido generado por IA que llegue a usuarios europeos, y el tono de Washington, Londres y Bruselas apunta a más disclosure obligatorio en 2027. Tres acciones inmediatas que conviene ejecutar:

Audita qué hace tu producto con IA cuando nadie lo mira. Documenta cada decisión automatizada con logs firmados. En el escenario de un incidente público, "no sabíamos que el modelo podía hacer eso" deja de ser defensa suficiente.
Diseña tu UI con disclosure visible desde ya. Si tu producto genera texto, imágenes o audio, integra la etiqueta "Contenido generado por IA" aunque tu mercado principal no sea Europa. Es un coste de UI menor que un rediseño bajo presión regulatoria.
Mide y reporta tu tasa de incidentes. Empieza a contar cada alucinación, cada acción no autorizada y cada bypass de filtro, y compártelo con tu board o inversores. Quien pueda demostrar métricas de seguridad tiene una ventaja real cuando llegue el próximo comprador enterprise o el próximo regulator.