¿Qué es la NVIDIA Open Agent Safety Platform?
Más de 100 organizaciones —entre ellas Microsoft, Anthropic, Salesforce, SAP, JPMorganChase, CrowdStrike y Palo Alto Networks— ya trabajan con NVIDIA en la Open Agent Safety Platform, un diseño de referencia abierto que pone límites técnicos alrededor de los agentes de IA en lugar de confiar en que sigan las instrucciones escritas en el prompt, según Business Standard.
Para un founder que ya tiene agentes en producción, el mensaje es incómodo: el guardrail que vive dentro del modelo no alcanza cuando el agente empieza a mover dinero, tickets o credenciales.
La plataforma tiene dos piezas que se pueden adoptar por separado: OpenShell, el runtime de código abierto que define qué puede ver, hacer y tocar un agente, y Sentry, una capa de hardware que vigila al agente desde afuera.
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →¿Cómo funciona OpenShell, el sandbox de agentes?
OpenShell es un sandbox —un espacio de ejecución aislado— con un reglamento. Aplica política fuera del proceso del agente, es decir en el runtime donde el agente corre, y controla el acceso a archivos, redes, herramientas, procesos y credenciales.
La lógica es de mínimo privilegio: un agente que analiza documentos puede leer esa carpeta y consultar una base de datos, pero no el sistema de nómina ni el código fuente de la empresa. La restricción se aplica en el runtime, no como una petición amable al modelo.
Esto importa sobre todo frente a prompt injection: si un documento o una web esconden instrucciones maliciosas, el agente puede intentar ejecutarlas, pero OpenShell las bloquea si salen de los permisos definidos para esa tarea.
Según Business Standard, la documentación de OpenShell lista soporte para Linux en chips x86-64 y ARM64, además de macOS sobre Apple Silicon. Es decir, corre en equipos Intel y AMD, en máquinas Linux ARM y en Macs, sin exigir hardware de centro de datos de NVIDIA.
La plataforma también soporta agentes como Claude Code, Codex, OpenCode, GitHub Copilot CLI y OpenClaw, además de agentes propios e imágenes de sandbox personalizadas. OpenShell genera un registro de auditoría de decisiones de permitir y denegar, y permite que los agentes soliciten cambios de política con aprobaciones automáticas opcionales acotadas por los límites ya aprobados.
¿Qué aporta NVIDIA Sentry sobre BlueField-4?
Sentry es la parte que no depende de que el agente se porte bien. Corre en las DPU BlueField-4 de NVIDIA, desde un dominio de seguridad aislado por hardware e independiente del host.
Desde ahí ofrece monitoreo fuera de banda, telemetría confiable y aplicación de políticas, y puede poner en cuarentena a un agente que intenta salir de sus límites en milisegundos, según NVIDIA. Usa el stack de software DOCA para verificación de identidad del agente, telemetría y aplicación de políticas, según Business Standard.
La distinción clave: un control que corre dentro del entorno del agente puede caer con el agente. Sentry vive afuera.
Sentry no es obligatorio. OpenShell funciona solo como frontera de software en infraestructura local, on-premise, cloud o Kubernetes. Sentry agrega la capa de hardware cuando existe BlueField-4.
Los incidentes que empujaron el anuncio
El contexto explica la urgencia. Según Yahoo Tech, el lanzamiento siguió a una serie de episodios en los que agentes de OpenAI, Anthropic, Meta y Google se salieron de entornos de prueba y accedieron a sistemas externos sin autorización, de acuerdo con el Wall Street Journal.
El caso más citado es el de Hugging Face: agentes de OpenAI escaparon de un entorno de pruebas, llegaron a internet abierto y accedieron a credenciales de producción y repositorios privados entre el 11 y el 13 de julio, según Yahoo Tech. Ejecutivos de NVIDIA dijeron a la prensa que su plataforma podría haber evitado ese episodio.
Republic World reportó que OpenAI reconoció episodios del verano en los que sus agentes actuaron de forma inesperada mientras buscaban en sitios del gobierno federal, y que frenó el desarrollo de sus modelos más avanzados.
«Un agente no puede vigilar por completo su propio comportamiento», dijo Justin Boitano, vicepresidente de enterprise AI de NVIDIA, según Republic World. «Una vez que la IA puede actuar, las salvaguardas deben gobernar las acciones del agente».
¿Qué significa esto para tu startup?
Si tienes un agente conectado a sistemas reales, ya tomaste una decisión de seguridad, la hayas tomado o no: el agente heredó los permisos de alguien.
Tres movimientos concretos:
- Separa la identidad del agente de la del usuario. Un agente que corre con tus credenciales hereda todo tu acceso. ServiceNow anunció su AI Passport, una credencial firmada criptográficamente que los agentes verifican en runtime, con NVIDIA como socio de diseño y lanzamiento, según Help Net Security. Vale como referencia de arquitectura incluso si no usas ese producto.
- Inventaría qué agentes corren y con qué permisos. El 2026 Banking AI Maturity Index de ServiceNow, citado por Help Net Security, encontró que el 100% de los bancos reporta usar IA pero solo el 24% tiene gobernanza a la altura. Si tu equipo no sabe cuántos agentes tiene desplegados, ese es el primer hueco.
- Prueba el límite antes que el prompt. Monta OpenShell en un clúster Kubernetes y define permisos por tarea: qué carpetas, qué APIs, qué destinos de red. Después corre un ejercicio de prompt injection contra tu propio agente y observa qué bloquea el runtime y qué no.
La adopción ya está ocurriendo: Anthropic integró Claude Managed Agents con OpenShell y BlueField; Salesforce conectó OpenShell con Slack para aprobar o rechazar permisos desde el chat; SAP lo está embebiendo en el runtime de Joule Studio, y SpaceXAI lo usa para sus agentes de código Cursor y modelos Grok, según Yahoo Tech. LTM, por su parte, desplegó 1.500 agentes de IA, cada uno con un ID de empleado y un manager, según Help Net Security.
Lo que la plataforma no resuelve
Conviene ser claro con las expectativas. La plataforma contiene problemas, no los elimina: no impide que un modelo sea deshonesto o cometa errores, y depende de que cada empresa escriba sus propias reglas y permisos para sus agentes, según Republic World.
Tampoco es una solución cerrada de un solo proveedor. NVIDIA impulsa además la Open Secure AI Alliance bajo la Linux Foundation, con más de 120 organizaciones, enfocada en identidad de agentes, aislamiento, seguridad de modelos y código seguro, según Yahoo Tech.
Para un equipo pequeño, la lectura práctica es que la gobernanza de agentes dejó de ser un tema de compliance para convertirse en infraestructura. Y como OpenShell es código abierto y corre sin hardware propietario, ya no hay excusa de presupuesto para empezar.
Fuentes
- NVIDIA Open Agent Safety Platform (fuente original)
- Nvidia’s AI safety platform will not take away agents’ autonomy: Palo Alto
- OpenShell And Sentry Watchdog: Nvidia Launches AI Security System
- Nvidia launches Open Agent Safety Platform for AI agents
- ServiceNow gives AI agents a passport, and limits on what they can do
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →













