La encuesta que incomoda a las juntas directivas
Apenas 11% de los 2.000 ejecutivos de tecnología de nivel C encuestados por IBM afirma estar completamente preparado para implementar agentes de IA en el próximo año. El resto opera con lo que el propio estudio describe como una «brecha de control» creciente: dos tercios de los CIO y CTO son responsables de sistemas de inteligencia artificial que no controlan del todo, y 70% reconoce que sus equipos despliegan tecnología más rápido de lo que el departamento de TI puede rastrear.
La cifra no es un dato aislado. Encadenada con otros estudios de 2026, dibuja un patrón: las empresas están escalando agentes a velocidad de infraestructura, pero los gobiernan como si fueran proyectos piloto.
Cuando una acción legítima evade el límite
El riesgo que señala Madhuri Chandoor, fundadora de PromptHalo, no es un hackeo cinematográfico: es un reembolso de USD 50. Imaginemos un agente autorizado para emitir devoluciones de hasta USD 50 sin revisión humana. Una transacción está dentro del permiso. Diez transacciones consecutivas de USD 50 también lo están, vistas de forma aislada. La diferencia es que juntas suman USD 500 y ya superan el umbral que sí exige escalado a una persona.
🤖 La IA no es solo para leer sobre ella
En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.
👥 Aplicarla en la comunidadCada acción individual respeta la regla. La secuencia, no. Y aquí aparece el fallo: la mayoría de los controles evalúa qué hace el agente, no por qué lo hace ni qué patrón está formando. El control por operación es necesario e insuficiente.
El mismo problema se reproduce en infraestructura. Un agente encargado de mejorar el rendimiento de una aplicación puede añadir o eliminar un índice en producción porque, técnicamente, ve una métrica que le pide optimizar. Lo que no ve son las transacciones en vivo, los datos de cliente o los procesos dependientes que ese cambio puede afectar. «Una conclusión técnica puede parecer razonable dentro de un enfoque estrecho», explica Chandoor. «El contexto, la situación y el impacto aguas abajo aún deben considerarse antes de que una acción proceda».
La autonomía amplifica la deuda técnica que ya tenías
Lo que los agentes de IA están exponiendo no son fallos nuevos: son deudas organizativas acumuladas. Permisos copiados de empleado en empleado, archivos compartidos «por ahora» hace tres años, cambios de rol que nunca dispararon una revisión de accesos. El reportaje de Forbes sobre ciberseguridad corporativa lo sintetiza así: los agentes no crean los problemas, los ejecutan a velocidad de máquina.
Los números acompañan esa lectura:
- Gartner proyecta que 40% de las aplicaciones empresariales estarán integradas con agentes de IA específicos hacia finales de 2026, frente a menos de 5% en 2025.
- El IBM Cost of a Data Breach Report 2025 reportó que una de cada cinco organizaciones sufrió una brecha vinculada a shadow AI, y esos incidentes añadieron hasta USD 670.000 al costo promedio de cada brecha. El 63% de las organizaciones afectadas no tenía una política de gobernanza de IA en vigor.
- El State of AI Agent Security 2026 de Gravitee, basado en 750 ejecutivos y líderes técnicos, muestra que el número de agentes en producción dentro de la empresa promedio se duplicó en apenas cuatro meses: del rango de 26 a 50 al rango de 76 a 100 agentes por compañía.
- La cobertura de monitoreo, en cambio, apenas se movió del 46,96% al 52% en ese mismo período. Solo el 9,5% de las organizaciones asegura más del 80% de sus agentes desplegados.
- 54% de las organizaciones encuestadas por Gravitee declaró haber experimentado o sospechado un incidente de seguridad o privacidad de datos ligado a agentes en los últimos doce meses.
- 85% carece de una estructura formal de rendición de cuentas para el comportamiento de los agentes, y solo 7,2% puede señalar a una persona concreta como responsable cuando algo falla.
La confianza declarada por los líderes, sin embargo, sube: del 82,6% al 91,8% de sensación de visibilidad en cuatro meses. Confianza creciente sobre cobertura estancada es, en palabras de Gravitee, «un precursor clásico de un incidente grave».
Perfiles de comportamiento: tratar al agente como un empleado nuevo
Chandoor, quien antes de fundar PromptHalo en 2025 pasó por PayPal, Visa, AWS y Capital One, propone importar una disciplina ya probada: la monitorización de fraude financiero, donde se analiza el comportamiento de cuentas y transacciones a lo largo del tiempo, no movimiento por movimiento.
Su recomendación operativa se resume en cinco controles que cualquier startup puede adaptar:
- Rol acotado, no acceso ilimitado. Cada agente necesita un alcance específico, no un permiso heredado de un usuario.
- Responsable humano nombrado. Como dice Forbes, un agente sin manager es la nueva forma de shadow IT. Cada acción debe poder rastrearse hasta una persona accountable.
- Mínimo privilegio posible. A menudo, el agente necesita menos acceso que la persona a quien apoya, porque no distingue qué datos eran relevantes para la tarea.
- Perfil conductual del agente. Monitorizar qué recursos consulta, qué herramientas usa, con qué frecuencia, y señalizar cambios respecto a su línea base.
- Revisión programada. Una encuesta de Cloud Security Alliance citada por Forbes muestra que 68% de las organizaciones no logra distinguir de forma fiable la actividad de un agente de la de un humano dentro de sus propios sistemas.
La lógica de fondo es la que Chandoor condensa en su frase de cabecera: «Confía, pero verifica». Verificación continua, no solo en el despliegue.
Qué significa esto para tu startup
Si estás integrando agentes en tu producto, en tu back office o en flujos de cara al cliente, la lección no es frenar la automatización: es diseñarla con rendición de cuentas incluida desde el día uno. Tres movimientos concretos:
- Audita permisos por agente, no por usuario. Haz hoy una lista de cada agente que tienes en producción, qué herramientas conecta y qué datos puede tocar. Si la respuesta a «qué hizo este agente el martes pasado, para quién y por qué» no es trazable, tienes un problema de gobierno, no de IA.
- Define umbrales compuestos, no solo umbrales por acción. Si tu agente aprueba reembolsos hasta USD 50, define también reglas para número de operaciones por sesión, monto acumulado en ventana corta y coherencia del patrón con el rol del solicitante. El ejemplo de los diez reembolsos es solo el caso más obvio; el mismo patrón aplica a aprobaciones de gastos, cambios en catálogos o escrituras en bases de datos.
- Asigna un dueño humano por agente. No es un nice-to-have regulatorio: es la única forma de que exista accountability real. Si nadie en tu equipo es responsable de la conducta de un agente, ningún proveedor externo va a serlo por ti.
La oportunidad competitiva no está en desplegar más agentes: está en desplegar los que ya tienes con la disciplina suficiente como para que un cliente enterprise, un auditor o un regulador confíe en que puedes explicar cada decisión automatizada. En 2026, esa capacidad de explicación es el nuevo SLA.
Fuentes
- Agentes de IA podrían eludir límites empresariales con acciones aparentemente permitidas
- Why businesses need clearer limits before AI agents are authorized to act — The Next Web
- Influential Women Features Madhuri Chandoor: Founder And CEO Of PromptHalo Driving The Future Of AI Security — Democrat & Chronicle / EIN Presswire
- AI Agents Aren’t Creating Security Problems. They’re Revealing Them — Forbes
- AI agents just doubled inside the enterprise. Confidence rose faster than control did — TechCrunch / Gravitee
🤖 La IA no es solo para leer sobre ella
En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.
👥 Aplicarla en la comunidad













