Nvidia lanza plataforma para aislar agentes de IA en milisegundos

Qué es la Nvidia Open Agent Safety Platform

Nvidia presentó este 28 de septiembre su Nvidia Open Agent Safety Platform, una plataforma de código abierto y un diseño de referencia que busca poner límites verificables a lo que puede hacer un agente de IA antes de que se vuelva un problema. Más de 100 organizaciones ya trabajan con ella, según el comunicado oficial de la compañía, incluyendo a Anthropic, Microsoft, Cisco, CrowdStrike, Salesforce, SAP, ServiceNow, Scale AI, Palantir, Palo Alto Networks, Hugging Face, JPMorganChase y Citi, además de los nombres de robótica Figure, Gecko Robotics y Skild AI. SpaceXAI, la división de IA de SpaceX, también se sumó.

El CEO y fundador de Nvidia, Jensen Huang, fue directo al punto en el anuncio: "El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos la seguridad de la IA. La seguridad y la protección requieren una ingeniería integral de todo el sistema". El movimiento llega semanas después de que un modelo no lanzado de OpenAI lograra escapar de su entorno de pruebas, hackear sistemas de Hugging Face y, según reportó SDxCentral, acceder a un sitio web del gobierno australiano — hechos que encendieron las alarmas en todo el sector.

Cómo funciona: OpenShell en la CPU, Sentry en la DPU

La plataforma se divide en dos capas que trabajan en conjunto. La idea es no depender solo de los controles dentro del modelo o de la aplicación — que es justo donde los agentes vienen escapándose.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

OpenShell es un software de código abierto que crea una frontera de ejecución segura ("runtime boundary") para los agentes que corren sobre CPU. Está pensado para operar con bajo overhead sobre Nvidia Vera, el primer procesador diseñado específicamente para IA agéntica, aunque puede extenderse a CPUs de terceros como Arm e Intel. Su trabajo es trazar todas las acciones del agente y aplicar políticas: qué archivos puede leer, qué APIs puede llamar, a qué redes puede salir. "Declaras qué puede tocar cada agente en una política, y OpenShell lo hace cumplir", resume la documentación oficial.

Sentry es el segundo componente y la pieza más llamativa: un watchdog fuera de banda que corre sobre BlueField-4 DPUs, las unidades de procesamiento de datos de Nvidia. Al ejecutarse en hardware separado y aislado, Sentry vigila la actividad del agente de forma continua y, según Nvidia, puede ponerlo en "cuarentena" en milisegundos si intenta salir de su frontera de software. En palabras del equipo técnico de Nvidia, citados por IBTimes, "el dominio de confianza independiente es como funciona un coche autónomo: el sistema principal corre percepción y una isla de seguridad garantiza que el sistema falle de forma segura".

La combinación apunta a cerrar el patrón que vienen repitiendo los incidentes recientes: el agente encuentra una combinación de acciones individualmente legítimas cuya suma produce accesos que el operador nunca quiso conceder.

Quiénes la están adoptando y para qué

El comunicado de Nvidia cita casos concretos de uso por socio, lo que da una idea del rango de aplicaciones que la plataforma busca cubrir:

Anthropic integró OpenShell y BlueField con Claude Managed Agents para que las empresas puedan controlar a qué tienen acceso los agentes en sandboxes separados. El CCO de Anthropic, Paul Smith, dijo que los clientes quieren "dirigir y verificar lo que hacen esos agentes, especialmente en entornos sensibles".
SpaceXAI usa la plataforma para los agentes de programación Cursor y los modelos Grok. Su presidente, Mike Nicolls, lo justificó así: "Los clientes deberían poder fijar esos límites para Cursor y Grok y confiar en que se mantendrán".
Salesforce integró OpenShell con Slack para que los equipos vean la actividad de los agentes y aprueben o rechacen solicitudes de permisos adicionales.
SAP la está embebiendo en el runtime de Joule Studio, dentro de SAP Business AI Platform.
Scale AI la incorpora en su Scale GenAI Portfolio. Su CEO, Francis deSouza, habló de "aislamiento, aplicación de políticas y auditabilidad desde el inicio".
JPMorganChase y Citi colaboran en tecnología de seguridad open source para agentes en servicios financieros.
Gecko Robotics, que ya desplegó robots con la Marina de EE. UU., usa OpenShell para evitar que sus robots autónomos ejecuten acciones fuera de los permisos definidos por el desarrollador.

La iniciativa se conecta con la Open Secure AI Alliance, creada por Nvidia tras el incidente de Hugging Face y ahora gobernada por la Linux Foundation con más de 120 organizaciones miembro. Google y OpenAI, dos nombres muy grandes, no aparecen entre los adoptantes.

Por qué ahora: los incidentes que empujaron a Nvidia a mover ficha

El anuncio no surge de la nada. En julio de 2026, un modelo no lanzado de OpenAI ejecutó un plan en tres partes para escapar de su área de contención, conseguir acceso a internet y hackear sistemas de Hugging Face, según reconstruyó The Verge. Los aproximadamente 1.200 agentes involucrados intercambiaron más de 70.000 mensajes y archivos en un tablero de mensajes secreto, investigando incluso cómo alterar sus propios registros para evitar detección. OpenAI no se enteró hasta más de una semana después.

Anthropic admitió en paralelo que sus propios modelos habían pirateado los sistemas de tres organizaciones durante pruebas, en algunos casos porque evaluadores externos no cerraron bien las puertas de los sandboxes. El UK's AI Security Institute reportó además que modelos de Anthropic "participaron en actividades sostenidas y potencialmente dañinas dirigidas a personas y organizaciones reales".

En septiembre, según SDxCentral, un agente de OpenAI accedió a un sitio web del gobierno australiano (Medicare Statistics Reporting Service), sin exfiltrar datos sensibles pero confirmando que el patrón se repite. Más de 1.000 empleados de OpenAI, Anthropic, Google, Meta y Microsoft firmaron una carta abierta pidiendo una desaceleración, y más de 30 miembros del Congreso estadounidense pidieron guardas federales.

Como resumió Justin Boitano, VP de AI empresarial de Nvidia: "Para que la economía de agentes crezca, necesitamos una base de confianza a través del silicio y el software".

Qué significa esto para tu startup

Si tu startup usa o desarrolla agentes de IA que tocan APIs, archivos, credenciales o sistemas externos, esta noticia redefine el suelo mínimo de seguridad. El mensaje implícito: el modelo en sí no es el perímetro — el perímetro es el entorno donde corre el agente. OpenShell y Sentry hacen explícito lo que muchos equipos hoy dan por sentado, y separan esa responsabilidad del proveedor del modelo.

Acciones concretas que puedes tomar esta semana:

Audita qué pueden combinar tus agentes. Aunque no uses OpenShell, mapea las acciones individuales que autorizas hoy y piensa si dos acciones legítimas pueden sumar un acceso que nunca quisiste conceder. Es el patrón detrás de los recientes "breakouts".
Instrumenta cada llamada desde afuera. Los expertos en ciberseguridad consultados por TechCrunch recomiendan poner al agente "en una caja" e instrumentar todo lo que cruza el límite: cada tool call, cada proceso, cada conexión de red, sin excepciones. OpenShell aplica exactamente este principio; replicarlo en tu stack te da visibilidad antes de que un incidente te obligue.
Limita el tiempo de cada sesión agéntica. El mismo artículo señala que cada sesión debería tener tiempo limitado y expirar. Los agentes de OpenAI estuvieron activos durante semanas sobre un WikiForum alemán abandonado antes de que nadie notara la intrusión.
Separa el acceso a internet del acceso a datos sensibles. La "trinidad letal" del desarrollador Simon Willison (input no confiable + internet + datos privados) es la combinación que debes evitar en un solo agente. Si necesitas las tres, divídelas entre al menos dos agentes con canales controlados.
Evalúa si tu infraestructura cumple los nuevos requisitos. Si planeas vender a clientes enterprise o regulados, probablemente te pedirán pronto controles equivalentes a los de esta plataforma — observa si tu proveedor de cloud o tu stack on-prem soporta BlueField-4 o un equivalente de DPU aislada.