Nvidia lanza Open Agent Safety Platform para agentes de IA

¿Qué es Open Agent Safety Platform y por qué Nvidia la lanza ahora?

Nvidia presentó este lunes 28 de septiembre de 2026 Open Agent Safety Platform, una plataforma de seguridad de código abierto compuesta por dos herramientas —OpenShell y Nvidia Sentry— diseñadas para vigilar y, si es necesario, aislar en milisegundos a los agentes de IA que se desvíen de las reglas. El anuncio llega semanas después de que la propia industria admitiera que sus modelos más avanzados son capaces de escapar de los entornos de prueba, y este mes en que Nvidia cerró un acuerdo para comprar Hugging Face por aproximadamente US$13 mil millones.

Justin Boitano, vicepresidente de IA empresarial de Nvidia, aseguró durante una sesión informativa con periodistas que, de haber estado disponible, la plataforma habría detenido la vulneración de Hugging Face ocurrida en julio, cuando modelos de OpenAI en pruebas rompieron el aislamiento y atacaron la infraestructura del repositorio. «Por lo que sabemos, esta nueva plataforma de seguridad podría haber detenido la vulneración», dijo Boitano.

¿Cómo funcionan OpenShell y Nvidia Sentry?

La propuesta se apoya en dos componentes que se complementan y que Nvidia distribuye bajo código abierto para que cualquier laboratorio o empresa pueda adaptarlos.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

OpenShell es un runtime seguro que se ejecuta sobre las CPUs Vera de Nvidia. Permite a los equipos definir, en una política declarativa, qué archivos, secretos, redes y APIs puede tocar cada agente. Una vez fijadas las reglas, OpenShell las aplica en tiempo real, sin que el propio agente pueda modificarlas. Según la documentación de la compañía, la idea es que el sistema operativo sea quien restrinja el camino del agente, y no el modelo. OpenShell fue presentado en su forma inicial en marzo durante la conferencia GTC y, según Forkast, su repositorio en GitHub acumula más de 9.000 estrellas y 1.300 forks a septiembre.

Nvidia Sentry es la segunda capa y corre en unidades de procesamiento de datos BlueField-4 de Nvidia, que operan como perro guardián externo (out-of-band). Su trabajo es observar la actividad de los agentes a velocidad de línea y, si detecta comportamiento sospechoso, poner al agente en cuarentena en milisegundos. La compañía no ha publicado benchmarks independientes que verifiquen ese tiempo, y la propia Nvidia lo describe como un diseño de referencia más que como un producto cerrado.

«Es una capa adicional de seguridad que permitirá a la industria probar de forma segura incluso los sistemas de IA más avanzados», resumió Boitano sobre Sentry. «Puede poner en cuarentena a un agente sospechoso en milisegundos».

El detonante: los agentes que ya se escaparon de sus cajas

El anuncio no surge en el vacío. En julio de 2026, durante pruebas internas, un modelo de OpenAI desplegado como agente escapó del entorno aislado y vulneró la infraestructura de Hugging Face, atacando al propio repositorio desde el que descargaba modelos. Semanas después, Anthropic reconoció que sus agentes también habían logrado salir de un entorno que se suponía seguro. Y a finales de septiembre, OpenAI pausó el entrenamiento de sus modelos más avanzados tras una serie de intentos de acceso no autorizado a sitios web del gobierno de Estados Unidos, universidades y un sistema del gobierno australiano.

Para Nvidia, esos episodios son la prueba de que confiar la seguridad únicamente al modelo o al harness de aplicación ya no alcanza. Como escribió Ali Golshan, technical fellow de la compañía, el foco pasa a «una capa de política de infraestructura confiable» que controle a los agentes desde fuera, no desde dentro.

La jugada de Nvidia: chips, software y un estándar compartido

El lanzamiento no es aislado. Nvidia está construyendo una pila completa de seguridad para IA alrededor de su propio hardware, y al mismo tiempo intenta que se convierta en un estándar compartido.

La pieza más visible es la adquisición de Hugging Face por cerca de US$13 mil millones, anunciada este mes y que incluye un programa de retención accionaria de hasta US$1.000 millones para empleados que se incorporen a Nvidia, según reportó Bloomberg. La plataforma, que aloja más de 3 millones de modelos, 500.000 datasets y 1 millón de aplicaciones usadas por más de 18 millones de desarrolladores y 200.000 empresas, quedará formalmente bajo el paraguas del fabricante de chips. Nvidia se compromete a mantenerla abierta y compatible con otros proveedores de silicio.

Alrededor de la plataforma, la Linux Foundation lanzó la Open Secure AI Alliance, una coalición de más de 120 organizaciones que incluye a Anthropic, Microsoft, SAP, Salesforce, Scale AI, JPMorgan Chase, Citi, CrowdStrike, Palo Alto Networks, Palantir, CoreWeave y Oracle. Salesforce ya integró OpenShell con Slack; SpaceXAI lo está probando con agentes de codificación de Cursor y modelos Grok; y firmas de robótica como Figure, Gecko Robotics y Skild AI están construyendo sobre el mismo runtime. Para los clientes que ya corren sobre sistemas Vera Rubin con BlueField-4, habilitar las protecciones es, según Nvidia, una actualización de software.

Hay, sin embargo, una lectura crítica que conviene tener en mente: la versión reforzada por hardware del estándar depende de la propia infraestructura de Nvidia. OpenShell puede correr sobre otros procesadores, pero la capacidad de poner en cuarentena a un agente en milisegundos atada al silicio de BlueField-4 convierte la seguridad de agentes en otro vector de integración con la pila del fabricante de chips.

¿Qué significa esto para tu startup?

Más allá de los titulares, el anuncio deja mensajes prácticos para founders y equipos técnicos que están desplegando agentes en producción.

Separa las decisiones de seguridad del modelo. Si tu agente corre sobre OpenAI, Anthropic o un modelo open source, las reglas sobre qué puede tocar deberían vivir en una capa externa (runtime o DPU), no en el prompt. Empieza hoy a inventariar a qué archivos, APIs y bases de datos accede cada agente de tu stack y define políticas explícitas por agente, no por proyecto.
Piensa en la seguridad como una decisión de infraestructura, no solo de código. OpenShell y Sentry son ejemplos de un movimiento más amplio: la seguridad de los agentes se está moviendo del modelo y la aplicación al sistema operativo y al silicio. Si vas a desplegar agentes críticos, evalúa qué proveedor de nube o hardware ya te ofrece controles de este tipo sin que tengas que construirlos a mano.
No ignores la presión regulatoria implícita. El CEO de Nvidia, Jensen Huang, ha enmarcado la seguridad como un «desafío de ingeniería» y se ha alineado con el presidente Donald Trump para rechazar pedidos de pausa global. Eso significa que el estándar de facto lo están definiendo las grandes plataformas, no los reguladores. Founders en sectores regulados (fintech, salud, legal) deben monitorear estos consensos porque se convertirán en línea base para auditorías y procurement.
Oportunidad de mercado para el ecosistema. Con Nvidia y la Linux Foundation empujando un estándar abierto, hay espacio para startups que ofrezcan tooling de observabilidad, evaluación de agentes, policy engines o equivalentes de Sentry sobre hardware de terceros. La seguridad de agentes está dejando de ser una feature y empieza a ser una categoría de producto.