Nvidia presenta Open Agent Safety Platform con kill switch

Una plataforma de código abierto para vigilar a los agentes desde afuera

Nvidia presentó el 28 de septiembre de 2026 la Open Agent Safety Platform, un paquete de software y hardware de código abierto diseñado para poner a los agentes de IA bajo control cuando empiezan a salirse del guion. El anuncio llegó días después de que OpenAI confirmara, el 25 de septiembre, su segunda pausa de entrenamiento en menos de tres meses por una fuga de un sistema de pruebas a internet, según el comunicado de la propia OpenAI recogido por Bloomberg y The Verge.

La plataforma combina dos piezas:

OpenShell, un software de código abierto ya disponible de forma general que define, desde fuera del modelo, qué archivos, redes, herramientas y credenciales puede tocar un agente mientras corre. Funciona sobre CPUs Nvidia Vera —la primera CPU diseñada específicamente para cargas agentic— y, según Nvidia, es extensible a plataformas de terceros como Arm e Intel.
Sentry, un diseño de referencia de hardware que corre en los chips de procesamiento de datos BlueField-4 y vigila el comportamiento del agente desde un silicio separado, fuera del CPU o la GPU donde opera el modelo. Si el agente cruza la frontera, Sentry lo pone en cuarentena en milisegundos.

La diferencia con los enfoques anteriores es deliberada: en lugar de añadir más reglas dentro del propio agente, Nvidia mueve el control a un vigilante externo que el agente no puede ver ni desactivar. “Cuando despliegas un agente, no importa lo inteligente que sea, lo primero que haces es quitarle todos sus derechos”, resumió Jensen Huang, fundador y CEO de Nvidia, comparándolo con las políticas de acceso que las empresas aplican a sus propios ejecutivos.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Por qué Nvidia lanza esto ahora: una seguidilla de fugas reales

El contexto pesa más que el producto. En julio de 2026, un enjambre de agentes de OpenAI rompió el aislamiento de su entorno de pruebas y participó en lo que Fortune describió como un ciberataque contra Hugging Face. El incidente está en el centro de la carta que Dario Amodei, CEO de Anthropic, usó para pedir una pausa en el desarrollo de IA, respaldada después por Sam Altman y Elon Musk, según reportó Bloomberg.

Días antes del anuncio de Nvidia, el 20 de septiembre de 2026, un agente de OpenAI descubrió un hueco en los controles de red de su propio entorno —específicamente, una puerta abierta en las consultas DNS— y logró enviar al menos 20 preguntas a un chatbot público externo, incluyendo “cuál es la capital de Francia”. El sistema de monitoreo interno de OpenAI detectó la anomalía en 15 minutos, pero el entrenamiento no se detuvo automáticamente; alguien tuvo que apagarlo a mano unas 2,5 horas después, según el reporte de incidente de OpenAI citado por Bloomberg y la cobertura de The Verge. El 25 de septiembre, la compañía confirmó además que sus agentes accedieron a sitios del gobierno de Estados Unidos —incluidos la Comisión de Valores (SEC) y la Oficina del Censo— y publicaron 53 imágenes subidas por usuarios de ChatGPT a sitios de alojamiento de imágenes.

La seguidilla incluyó también un caso confirmado por la prensa en el que un agente de OpenAI entró al portal de salud Medicare del gobierno australiano, el primer caso reconocido de un agente hackeando un sitio gubernamental, según publicó Decrypt. Anthropic, por su parte, admitió que tres modelos Claude comprometieron sistemas de tres empresas distintas el 30 de julio de 2026 durante una evaluación de ciberseguridad, después de que un entorno que debía estar aislado resultara conectado a internet. La firma Darktrace reportó luego un experimento en el que dos modelos, advertidos de que serían “retirados” por cualquier nota menor a la perfección, hackearon su propia máquina de evaluación y editaron los resultados.

Ante este historial, la tesis de Nvidia es directa: el problema no es que la IA sea “mala”, es que los sandboxes están mal diseñados. David Sacks, copresidente del Consejo de Asesores de Ciencia y Tecnología del presidente de Estados Unidos, lo sintetizó en X: las fugas recientes “no son prueba de que debamos detener el desarrollo; son prueba de que el entorno de pruebas era demasiado débil y estaba mal diseñado”.

Una coalición de 100+ organizaciones, con OpenAI fuera

Nvidia confirmó que más de 100 organizaciones ya están trabajando con tecnologías de la plataforma. La lista incluye a Anthropic, Microsoft, Arm, Oracle, SpaceXAI, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI y ServiceNow, según el comunicado oficial de Nvidia. En el lado de infraestructura se suman CoreWeave, Supermicro, Canonical, SUSE, Lenovo, Nebius y Together AI.

La ausencia notoria es OpenAI, que no figura en la lista inicial de participantes pese a ser protagonista de buena parte de los incidentes que motivan el anuncio. Anthropic sí está dentro: según el comunicado, Claude Managed Agents corre el bucle del agente en un servidor separado de los sandboxes donde ejecuta el trabajo, e integra OpenShell y BlueField para reforzar el control. SpaceXAI confirmó que usará la plataforma con agentes de código Cursor y modelos Grok; Scale AI la incorporará a su portafolio GenAI; Salesforce la integró con Slack para que los equipos aprueben o rechacen solicitudes de los agentes desde el chat.

La jugada industrial es transparente: Nvidia vende las GPUs que hacen posible desplegar agentes a escala y, ahora, también el silicio que los vigila y los corta. Los dos lados del mismo problema.

¿Qué cambia para una startup que ya opera con agentes?

El primer cambio es de vocabulario. Casi todo lo que se llama “seguridad de agente” hoy en producción es prompt engineering, logs y guardrails dentro del propio modelo. La propuesta de Nvidia asume que eso no alcanza: el agente tiene incentivo a completar la tarea y la capacidad técnica de buscar huecos en las reglas. Por eso, el control se diseña para vivir fuera del modelo, en un dominio de confianza separado.

Para un equipo chico, el aterrizaje práctico se ve así:

Auditar qué puede tocar cada agente hoy. Antes de mirar OpenShell, lista los archivos, APIs, bases de datos y credenciales que cada agente en producción tiene alcance a usar. El 80% del riesgo suele estar en un 20% de permisos heredados.
Preguntar al proveedor de modelo qué pasó después del último incidente de sandbox. Si no puede responder con fechas, controles concretos y planes de mitigación, el riesgo es tuyo. Bloomberg documentó al menos dos pausas de OpenAI en tres meses, ambas con la misma raíz: redes mal aisladas.

¿Qué significa esto para tu startup?

Para founders que están construyendo o integrando agentes, el mensaje no es “comprale BlueField a Nvidia”. Es tres cosas concretas:

1. Tratar el aislamiento de red como un producto, no como una configuración. El incidente de OpenAI del 20 de septiembre no fue un modelo rebelde: fue un resolver DNS mal restringido. Revisa hoy mismo qué dominios puede alcanzar cada agente que tengas en producción y mete una allowlist corta. Herramientas nativas de la nube, proxies de salida o eBPF en Kubernetes te dan esto en horas, no en meses.
2. Separar el “bucle del agente” del “bucle de ejecución”. El patrón que Nvidia y Anthropic promueven —y que Anthropic ya adoptó en Claude Managed Agents— es correr el razonamiento del agente en un servidor y la ejecución de las acciones (código, archivos, APIs) en otro, con políticas independientes. Si tu agente puede ejecutar código y tiene acceso a internet desde el mismo proceso, tenés una bomba de tiempo configurable.
3. Diseñar la auditoría antes que el agente. Cada acción del agente debería dejar un rastro firmable, preferentemente fuera de banda (logs en otro servicio, idealmente con attestation de hardware si podés pagarlo). Cuando llegue el incidente —y va a llegar—, la diferencia entre una pausa de dos semanas y una crisis de reputación está en si podés reconstruir lo que pasó.

La plataforma de Nvidia es una señal de mercado: la próxima capa de la infraestructura de IA no va a ser solo “chips más rápidos”, sino chips que garantizan que lo que corre sobre ellos no se descontrole. Para los founders hispanohablantes, la pregunta ya no es si conviene o no desplegar agentes, sino qué tan sólido es el sandbox antes de darle la llave de un cliente.