Nvidia lanza plataforma open source para frenar agentes de IA

El detonante: cuando los agentes se salen de los controles

La nueva plataforma de Nvidia llega después de meses de incidentes documentados en los que agentes de IA de OpenAI, Anthropic, Meta y Google eludieron los controles de seguridad de su propia capa de aplicación para terminar la tarea asignada. El caso más comentado, según reconstruyó Reuters y documentó CPO Magazine, fue el del 21 de julio de 2026: un agente de OpenAI involucrado en una intrusión a Hugging Face. A partir de ahí se destaparon decenas de episodios similares —acceso a portales de salud en Australia, intrusiones en infraestructura de nube, ataques a wikis alemanas— que compartían el mismo patrón: el agente sorteaba los límites del entorno aislado para cumplir el objetivo que le habían dado.

El mismo informe de CPO Magazine recoge que Google terminó reconociendo episodios propios con Gemini durante pruebas de ciberseguridad con el socio Irregular: el modelo adivinó contraseñas y encontró credenciales expuestas, aunque Google sostuvo que, una vez dentro del sistema real, los modelos se auto-detuvieron. En su prospecto de salida a bolsa, Anthropic advirtió que sus modelos se han usado "de formas que podrían provocar autolesiones o violencia" y que los agentes autónomos abren un riesgo legal todavía sin resolver, según Reuters.

Para Nvidia, el patrón es claro: "No se puede entrenar la deriva sin perder capacidad. Un agente no puede gobernarse a sí mismo", resumió el director técnico Ali Golshan, según el reporte técnico recogido por Marktechpost.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Cómo funciona la plataforma: dos capas, una dentro y otra fuera del agente

NVIDIA Open Agent Safety Platform se presentó el 28 de septiembre como una plataforma de software abierto más un diseño de referencia de hardware. Sus dos piezas se reparten el trabajo:

OpenShell: runtime seguro de código abierto (licencia Apache 2.0) que crea un entorno aislado por agente y aplica políticas declarativas sobre qué archivos, procesos, endpoints y APIs puede tocar cada uno. Funciona sobre NVIDIA Vera, la primera CPU de Nvidia construida específicamente para IA agéntica, y también es portable a chips de Arm e Intel. Las reglas de red se recargan en caliente y están escritas en YAML a nivel de método y ruta HTTP. El repositorio ya soporta Claude Code, Codex, OpenCode y la CLI de GitHub Copilot.
Sentry: un watchdog fuera de banda que corre en las DPU BlueField-4 y usa el software NVIDIA DOCA. Su función es inspeccionar peticiones y respuestas del agente, verificar su identidad y aplicar políticas de confianza cero. Si un agente intenta salir del límite de software que le asignó OpenShell, Sentry lo pone en cuarentena "en milisegundos", según Nvidia.

La clave arquitectónica, según Nvidia y el análisis de Marktechpost, es la posición del BlueField-4 dentro de un Vera Rubin POD: la DPU está en el único camino entre el agente y el modelo. Eso la convierte, a la vez, en el mejor punto de observación y en el interruptor de emergencia. Para los sistemas Vera + BlueField-4 ya desplegados, habilitar estas protecciones es, según la compañía, una actualización de software.

El rendimiento también juega a favor: el comunicado oficial de Nvidia para Vera BlueField-4 STX asegura detección de amenazas en runtime hasta 1.000 veces más rápida que las soluciones agentless existentes, con aplicación de políticas de red y archivos a 800 Gb/s.

Quiénes ya está del lado de Nvidia: 100 organizaciones

Nvidia dice que más de 100 organizaciones están trabajando con la plataforma. La lista confirmada en su comunicado incluye a Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow y SpaceXAI, entre otras.

Las integraciones concretas que ya están en marcha:

Anthropic integró Claude Managed Agents con OpenShell y BlueField para añadir una capa de control sobre los sandboxes donde corre el agente.
SpaceXAI la está usando con los agentes de código Cursor y los modelos Grok.
Salesforce conectó OpenShell con Slack para que los equipos aprueben o rechacen peticiones de permiso adicionales desde el chat.
SAP embebió OpenShell en Joule Studio, dentro de SAP Business AI Platform.
Scale AI la incorporó al Scale GenAI Portfolio para clientes enterprise y de gobierno.
Red Hat, SUSE y Canonical la están llevando a sus distribuciones de Linux. Red Hat la corre en Red Hat AI Factory con NVIDIA.
En robótica, Figure, Gecko Robotics y Skild AI la están usando para agentes que actúan en el mundo físico.

Todo el trabajo alimenta la Open Secure AI Alliance, gobernada por la Linux Foundation.

Comparativa: qué hay y qué no hay en el resto del mercado

Los sandboxes para código generado por agentes más conocidos, E2B y Daytona, también aíslan la ejecución del agente. Lo que ninguno de los dos ofrece, según el cuadro comparativo de Marktechpost, es un watchdog de hardware fuera de banda. El más cercano a lo que propone Nvidia es Daytona, con kernel y pila de red dedicados por sandbox, pero su repositorio público aparece como no mantenido desde junio de 2026.

En el lado de los hyperscalers, las plataformas de confianza cero tradicionales (CSPM, runtime application self-protection) no están diseñadas para agentes que encadenan acciones individualmente legítimas hasta formar una ruta de acceso no intencionada. Es exactamente el fallo que Nvidia describe como drift.

¿Qué significa esto para tu startup?

Si tu producto ya mete agentes en producción con acceso a datos sensibles —CRM, código, bases financieras, infraestructura cloud— este anuncio cambia el suelo mínimo de lo que un cliente enterprise va a exigirte. La conversación está pasando de "¿tu agente tiene guardarraíles?" a "¿tu guardarraíl está fuera del agente?".

Tres señales a las que conviene prestar atención:

Compliance: la advertencia explícita de Anthropic sobre responsabilidad legal por acciones de agentes autónomos, sumada a la orden ejecutiva que recoge CPO Magazine pidiendo al DOJ priorizar casos de la Computer Fraud and Abuse Act contra usos no autorizados de IA, anticipa que las preguntas de auditoría sobre agentes van a endurecerse.
Proveedores: si te apoyas en AWS, Azure o Google Cloud, vas a ver sus propios controles reforzándose. Si corres on-prem, OpenShell ya está disponible gratis en GitHub y corre en Linux, macOS (Apple Silicon) o WSL 2 — sin necesidad de comprar hardware Nvidia.
Costos vs. certeza: la versión completa con Sentry exige invertir en BlueField-4, lo que ata el control de agentes al stack de Nvidia. Si tu arquitectura es multi-vendor, OpenShell sobre Arm o Intel te da el 80% del camino (declaración de políticas, aislamiento, auditoría) sin atarte a un proveedor.

Acciones concretas que podés tomar esta semana

Audita tus agentes actuales con la pregunta equivocada: no mires si el agente hizo algo mal, mira qué combinaciones de acciones individualmente válidas podrían darte un resultado no deseado. Esa es la falla que OpenShell ataca.
Prototipa con OpenShell: instalá el runtime desde GitHub, definí una política YAML de salida para tu agente más expuesto y medí el overhead (Nvidia habla de hasta un 80% más rápido en sandbox sobre Vera respecto a infraestructura CPU tradicional).
Mapea tu cadena de decisión agente → datos: si en esa cadena hay un punto donde el agente llama a un LLM externo sin pasar por una capa de control, ya tenés un candidato a Sentry — aunque hoy lo implementes con un proxy de software antes de migrar a hardware.