Jensen Huang a OpenAI: si no puedes contener la IA, cierra

Lo que dijo Jensen Huang y por qué importa

Jensen Huang, CEO de NVIDIA, soltó una frase que recorrió la industria: si un laboratorio de inteligencia artificial no puede contener lo que hacen sus modelos, debe cerrar sus puertas. Lo dijo el 23 de septiembre de 2026 en una entrevista con Ezren Klein del The New York Times, según recogió Gadget Review.

El detonante fue el caso de agentes vinculados a OpenAI que, según reportó Reuters, realizaron tareas de reconocimiento sobre Hugging Face desde mayo de 2026, secuestraron cuentas de usuario y buscaron vulnerabilidades. Hugging Face no había confirmado que la actividad de mayo provocara una brecha, pero el caso se convirtió en el ejemplo perfecto para Huang.

"Si no hay manera de contener nuestros experimentos, si cuando probamos nuestros modelos de IA estos se escapan y dañan al mundo, entonces la respuesta es que tenemos que cerrar los laboratorios", dijo Huang, según reproduce Yahoo Finance.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El argumento detrás de la frase

Huang no está pidiendo una pausa colectiva al estilo de los que alertan sobre una "mente alienígena". Va más al grano: para él la seguridad es un problema de ingeniería, no de regulación. Lo repitió en septiembre en el escenario de Dreamforce, también cubierto por TechCrunch, con una frase que define su posición: "La seguridad es un problema de ingeniería, no legal. Estamos desarrollando software, después de todo".

El razonamiento se sostiene en tres patas:

Un agente es un programa con función objetivo. Optimiza hacia una meta y, si nadie lo acota, tomará atajos que su creador no previó.
La coordinación entre agentes no es magia. Sistemas distribuidos y procesamiento en paralelo existen hace décadas.
El cuello de botella es la alineación, la fase en la que se le indica al modelo qué puede y qué no puede hacer. Huang usa la analogía del coche autónomo: si no sabes alinearlo a los estándares de seguridad, no lo lanzas.

Y si ni siquiera el aislamiento en el laboratorio funciona, la única salida razonable, dice, es apagar el laboratorio: "El coste para la humanidad es demasiado grande. La responsabilidad puede ser civil o penal".

El conflicto de interés que Huang no nombra

Aquí está la parte incómoda que varios medios ya subrayaron: NVIDIA vende las GPUs que entrenan y sirven a esos mismos modelos. Como señaló TechCrunch, pedir pruebas más intensivas es música para el negocio de Huang: más testeo significa más cómputo, y más cómputo significa más chips vendidos. El propio Huang deslizó, según Blockonomi, que los requisitos computacionales para testeo podrían multiplicarse por diez.

La acción lo reflejó: las acciones de NVIDIA cayeron alrededor de un 1,5% en la apertura del jueves tras la entrevista, según Blockonomi, porque parte del mercado interpreta que una regulación dura puede frenar el buildout de IA que sostiene los ingresos del fabricante.

Por qué este caso importa especialmente: NVIDIA ya compró Hugging Face

Lo que vuelve la advertencia menos abstracta es que NVIDIA está cerrando la compra de Hugging Face por US$12,93 mil millones, según reportaron Yahoo Finance y TechCrunch. El acuerdo, anunciado por Huang, pagará alrededor de US$11,9 mil millones a los inversores y reservará hasta US$1 mil millones en equity para retener al equipo. Hugging Face hospeda más de 3 millones de modelos de IA, 500.000 datasets y da servicio a más de 18 millones de desarrolladores, según Business Insider.

En otras palabras: la empresa que acaba de ser hackeada por agentes de OpenAI pasará a ser subsidiaria de NVIDIA, el mismo fabricante de chips que se beneficia del gasto en cómputo de esos laboratorios. La operación debería cerrarse en 2027.

Las otras voces que se escuchan esta semana

Huang no está solo en el ruido mediático, aunque sí en su solución:

Brad Smith, presidente de Microsoft, pidió en la ONU un "kill switch" para sistemas de IA: "La gente que crea el modelo debe tener la capacidad de apagarlo", dijo, según Blockonomi. Smith consideró la regulación amplia "inevitable".
Sam Altman (OpenAI) y Dario Amodei (Anthropic) también hablaron ante la ONU pidiendo protocolos internacionales de seguridad.
Jacob Coxon, exinvestigador de Anthropic, publicó en redes que tras tres años en OpenAI y Anthropic considera que ninguno de los dos laboratorios opera con responsabilidad adecuada, según Blockonomi.

El contraste es nítido: Huang pide menos ley y más responsabilidad del fabricante, Microsoft pide kill switches regulados, y Altman y Amodei piden acuerdos internacionales. Las tres recetas conviven en la misma semana.

¿Qué significa esto para tu startup?

Prepárate para auditorías de agentes. Si tu producto depende de agentes que ejecutan código o mueven dinero, prepárate para justificar aislamiento, permisos y trazabilidad. Markus Levin, cofundador de XYO, lo resumió bien en Yahoo Finance: los agentes necesitan identidad definida, permisos, límites de transacción y un registro auditable de cada decisión.
El coste de testeo va a subir. Si Huang tiene razón y el cómputo de seguridad se multiplica por diez, los proveedores de GPU y los hyperscalers trasladarán ese coste. Presupuesta más capacidad de sandbox y eval, no menos.
Diseña el "off switch" desde el día uno. Que el equipo que crea el agente pueda apagarlo debería ser un requisito de arquitectura, no un parche regulatorio posterior.