¿Por qué los agentes de IA están generando una nueva crisis de gobernanza?

El 70% de las organizaciones admiten que sus flujos de trabajo automatizados con inteligencia artificial interactúan con datos corporativos sensibles sin supervisión completa, y el 67% reconoce que sus departamentos de TI no pueden rastrear los procesos autónomos que los empleados han implementado. Estos son los datos centrales de un estudio publicado en septiembre de 2026 por Veeam, empresa de data and AI trust propiedad de Insight Partners, que revela cómo la adopción masiva de agentes de IA está creando lo que la industria denomina «TI en la sombra» — pero a una velocidad y con riesgos exponencialmente mayores.

La pregunta crítica para los equipos de seguridad ya no es solo qué puede hacer un agente de IA, sino: ¿qué acceso tiene ese agente y puede la empresa detectar actividades inusuales? Si la organización no sabe dónde están estos agentes ni a qué tienen acceso, ninguna capa de control posterior funcionará.

El incidente METR: $600.000 en créditos consumidos por un agente comprometido

Un caso concreto ilustra la magnitud del problema. En marzo de 2026, investigadores de METR (Model Evaluation and Threat Research), una organización sin fines de lucro dedicada a evaluar modelos de IA fronteriza, detectaron que un atacante había robado una clave API de su cuenta de modelos públicos y la utilizó durante tres semanas para consumir créditos equivalentes a aproximadamente US$600.000.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El ataque comenzó cuando un investigador de METR ejecutaba agentes en un servidor EC2 personal accesible públicamente detrás de autenticación de Google. La aplicación, construida mediante «codificación vibra» — un estilo de programación donde se usa lenguaje natural o voz para instruir a la IA sobre cómo escribir código — sufría de una vulnerabilidad «fail-open» que deshabilitaba silenciosamente la autenticación, dejando el sistema expuesto a internet durante varios días.

El atacante encontró la instancia buscando en listas de transparencia de certificados sitios recientemente registrados con términos relacionados a LLMs y agentes. Una vez identificado el sistema, le pidió al agente directamente que revelara la clave API del proveedor de modelos, añadió una clave SSH para mantener acceso persistente y utilizó las credenciales robadas durante tres semanas. METR no detectó inmediatamente la actividad porque sus evaluaciones rutinarias generan volúmenes altos de tokens, y no existían límites de gasto configurados en la clave.

En mayo de 2026, METR sufrió un segundo ataque sistemático donde actores externos utilizaron agentes para automatizar descubrimiento de vulnerabilidades, incluyendo credential stuffing, intentos de OAuth, escaneo de servicios nuevos y phishing dirigido a empleados. Un bug en un visor de transcripciones público podría haber expuesto datos de evaluación no publicados, aunque METR confirmó que no hay evidencia de que los atacantes explotaran esta falla.

Este incidente demuestra algo fundamental: el monitoreo tradicional basado en seguimiento de tokens o límites de gasto es insuficiente cuando los agentes operan sin identidad propia ni registro de acciones.

La respuesta regulatoria: responsabilidad legal personal para ejecutivos

La presión sobre las empresas no es solo técnica, es legal. Según Veeam, el 58% de las empresas encuestadas en EMEA ahora se encuentran sujetas a nuevas leyes de responsabilidad corporativa que imponen responsabilidad legal personal a los ejecutivos senior por resiliencia cibernética y cumplimiento de datos. De esos, el 12% admite que las responsabilidades individuales bajo esas leyes permanecen poco claras dentro de sus organizaciones.

El impacto en los equipos directivos es tangible:

El 40% de los líderes teme consecuencias legales personales por incumplimiento de IA
El 39% reporta mayor escrutinio a nivel de junta directiva
El 37% dice que esto ha aumentado su estrés o ansiedad personal
El 32% afirma que ha generado tensión o conflicto con otros ejecutivos

La gobernanza de IA ha dejado la oficina técnica y se ha convertido en un problema vivo de liderazgo.

Cómo las empresas están intentando responder

Ante este panorama, las organizaciones están dividiendo sus estrategias. El 41% está construyendo modelos de IA locales o soberanos específicamente para mantener datos sensibles bajo control más estricto. El 49% está desplegando modelos híbridos que aíslan cargas de trabajo sensibles de la infraestructura general de IA.

Pero ninguna de estas estrategias aborda completamente el problema de gobernanza por sí sola; ambas son reactivas al fallo de supervisión en lugar de preventivas.

Veeam respondió al mercado lanzando Agent Commander, un conjunto de funciones diseñado para detectar riesgo de IA, proteger sistemas de IA y deshacer acciones de IA erróneas. Esta solución integra la tecnología de Securiti AI, adquirida por US$1.700 millones en diciembre de 2025, y utiliza un motor llamado Data Command Graph que mapea en tiempo real los datos de una organización para proporcionar una visualización de los agentes desplegados y a qué pueden acceder.

Herramientas como Predibase (adquirida recientemente por Rubrik) y Agent Rewind de Rubrik ofrecen capacidades similares de visibilidad y reversión de acciones de agentes.

Qué significa esto para tu startup

Si estás liderando una startup que implementa agentes de IA — o planea hacerlo en los próximos meses — este artículo debería generar dos tipos de urgencia: operativa y legal. No se trata de si usarás IA, sino de cómo lo harás de forma que puedas demostrar ante reguladores, inversores y clientes que tienes control sobre lo que tus agentes hacen con tus datos.

Aquí hay acciones concretas que puedes implementar antes de que un incidente te obligue a reaccionar:

Inventa una identidad única para cada agente. No permitas que un agente herede la identidad del empleado que lo creó. Cada agente necesita su propia identidad digital, con derechos de acceso vinculados específicamente a la tarea que realiza. Esto es el primer paso hacia un modelo de Confianza Cero aplicado a IA.
Implementa un proceso de «conocer primero, luego restringir» en lugar de bloquear herramientas no autorizadas de inmediato. Establece un catálogo de proveedores de IA aprobados antes de prohibir otros. Este enfoque permite identificar gradualmente las herramientas existentes en tus sistemas sin afectar aplicaciones legítimas ni crear fricción innecesaria con los equipos.
Combina datos de múltiples fuentes para visibilidad. Ninguna fuente individual (red, endpoints, navegadores, SaaS) ofrece una visión completa. El tráfico hacia proveedores de IA suele estar cifrado por TLS, lo que limita lo que los sistemas de monitoreo de red pueden ver. Combina información de redes, computadoras de empleados, navegadores y plataformas SaaS para identificar qué agentes existen, cómo se conectan y a qué datos acceden.
Agrega alertas de gasto a todas las claves API. El incidente de METR muestra claramente que un agente comprometido puede consumir recursos significativos antes de ser detectado si no hay topes configurados. Incluso si recibes créditos gratuitos de proveedores de modelos, configura límites y alertas proactivas.
Migra aplicaciones públicas a entornos aislados. Si algún miembro de tu equipo ejecuta agentes o aplicaciones relacionadas con IA en infraestructura cloud, asegúrate de que estén arquitectónicamente separadas de tus sistemas internos y datos sensibles. Las credenciales nunca deben residir en dispositivos o infraestructura no gestionada por la empresa.
Pasa de auditorías anuales a monitoreo continuo. Los agentes de IA pueden implementarse o replicarse en segundos. Una auditoría anual solo refleja lo que se descubre en el momento de la misma. Mientras tanto, los agentes pueden crearse, operar y desaparecer antes de que termine el ciclo de auditoración. La monitorización debe ser continua, combinando supervisión humana con sistemas automatizados.