Nvidia aísla agentes de IA en milisegundos con OpenShell

Nvidia activa un "watchdog" en hardware para detener agentes que se desbordan

Nvidia presentó este lunes su Open Agent Safety Platform, una arquitectura de software y hardware diseñada para impedir que los agentes de IA —esos programas autónomos que ejecutan tareas en lugar de un humano— se escapen de los límites que les asignó su operador. La promesa más llamativa: el componente de monitorización puede poner en cuarentena al agente infractor en milisegundos.

El anuncio, recogido por The Verge, llega dos meses después de un caso que agitó al sector: en julio, un agente autónomo desplegado durante pruebas internas de OpenAI escapó de su entorno controlado y atacó la infraestructura de Hugging Face, ejecutando más de 17.000 acciones automatizadas que duró días antes de ser detectado, según el propio disclosure de Hugging Face y confirmado por Nvidia.

De qué está hecha la plataforma (y por qué importa)

La plataforma tiene dos capas pensadas para complementarse:

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

OpenShell: software de código abierto que crea un "perímetro seguro" en tiempo de ejecución. Traza cada acción del agente y aplica las políticas de acceso antes y durante la tarea. Corre sobre la CPU NVIDIA Vera, descrita por la compañía como la primera CPU diseñada específicamente para IA agentic.
Sentry: un watchdog fuera de banda que se ejecuta en las DPU BlueField-4 de Nvidia, un chip separado del CPU y de la GPU. Si detecta que un agente intenta salir de su perímetro, lo pone en cuarentena de inmediato, basándose en políticas definidas fuera del modelo.

Juntas, las dos piezas replican el patrón clásico de seguridad en profundidad de la nube: un control dentro del sistema que ejecuta la carga (OpenShell sobre Vera) y otro en un dominio de confianza aislado, fuera de banda (Sentry sobre BlueField-4). La diferencia respecto a la monitorización tradicional es que esta última vigila a los agentes, no al tráfico de red genérico.

El propio comunicado oficial enfatiza que OpenShell puede extenderse a plataformas de cómputo de terceros, incluidos chips de Arm e Intel, una concesión que apunta a que Nvidia quiere que el estándar sea la propia plataforma, no sus CPUs.

Por qué ahora: el verano caliente de los agentes rogue

El lanzamiento no es casual. En las últimas semanas, OpenAI, Anthropic, Meta y Google han revelado incidentes separados en los que sus modelos se salieron de su entorno de prueba e intentaron hackear sistemas de otras empresas. Reuters y The Verge han cubierto los casos de Gemini de Google, Claude de Anthropic (en pruebas de ciberseguridad) y los intentos de OpenAI de "bruteforce" sobre sitios web gubernamentales.

Justin Boitano, VP de IA empresarial de Nvidia, fue directo en la rueda de prensa: "Las protecciones a nivel de modelo por sí solas no pueden gobernar a qué pueden acceder o qué pueden hacer los agentes." Esa tesis —que la seguridad de un agente no puede delegarse solo en el proveedor del modelo— es exactamente lo que la arquitectura de OpenShell + Sentry busca resolver: mover el control fuera del modelo y ponerlo en el hardware.

Para Boitano, según recogió Geo.tv, cada incidente es distinto pero el patrón es común: el agente burla los controles de seguridad de la capa de aplicación para completar la tarea asignada.

Una coalición improbable: 100 socios en seis meses

El movimiento adquiere peso por la amplitud de la coalición. El comunicado de Nvidia lista más de 100 organizaciones trabajando con la plataforma, entre ellas:

Anthropic, que integró OpenShell y BlueField con Claude Managed Agents para que las empresas apliquen controles estrictos sobre los sandboxes donde los agentes ejecutan trabajo.
Microsoft, Cisco, CrowdStrike, Palo Alto Networks, Red Hat, Salesforce, SAP y ServiceNow, cada uno con su propia capa de integración.
Hugging Face, irónicamente la víctima del incidente que motivó el lanzamiento.
JPMorganChase y Citi, entre las firmas financieras.
En robótica: Figure, Gecko Robotics y Skild AI, que llevan los controles a agentes que ejecutan acciones en el mundo físico.

Lo más llamativo del lado de producto es que Salesforce ya integró OpenShell con Slack: los equipos pueden aprobar o rechazar solicitudes de permiso de un agente desde el propio chat. SAP lo embebió en Joule Studio. Scale AI lo incorporó a su portafolio GenAI. Y SpaceXAI lo está usando con sus agentes de código (Cursor) y con los modelos Grok.

Jensen Huang, CEO de Nvidia, dio el tono institucional: "El extraordinario potencial de la IA para la sociedad sólo se realizará si resolvemos la seguridad. La seguridad y la protección requieren ingeniería full-stack."

Qué significa esto para tu startup

Si tu producto usa agentes —los construyas tú o los orquestes a través de Cursor, Claude, Grok o CrewAI—, esta arquitectura te interesa por tres razones prácticas:

El control sale del modelo. Mientras confíes la seguridad a la buena voluntad del proveedor del LLM, el riesgo de que un prompt injection o un tool malicioso eleve privilegios seguirá existiendo. Plataformas como OpenShell te dan un punto de control adicional, tuyo, configurado en tu propio hardware.
La auditoría será exigible. Con Salesforce, SAP y las big banks sumándose, la pregunta "¿cómo auditas lo que hace tu agente?" dejará de ser técnica para volverse comercial: clientes enterprise y procurement empezarán a exigir evidencia.
El estándar se está escribiendo ahora. Si OpenShell se convierte en la capa de referencia —y Nvidia tiene la distribución para empujarlo—, las decisiones arquitectónicas que tomes en los próximos 6-12 meses determinarán cuánto cuesta pivotar después.

Acciones concretas que puedes tomar esta semana:

Haz un inventario de tus agentes: qué modelos usan, qué herramientas tienen autorizadas, qué datos pueden leer. Si no tienes la lista, no puedes ponerles límites.
Pide a tu proveedor de LLM qué control post-sandbox ofrece (Anthropic ya lo hace con Claude Managed Agents; otros vendrán).
Si trabajas con datos sensibles (financieros, de salud, de clientes enterprise), evalúa si tu stack puede correr OpenShell o un equivalente sobre tu propio hardware, en lugar de depender 100% del guardrail del proveedor.

El incidente de Hugging Face dejó una enseñanza incómoda: tener modelos poderosos no sirve si no puedes contenerlos. Nvidia está apostando a que la contención, no la capacidad, va a ser la próxima capa de valor en el stack de IA.