IA agéntica: por qué la gobernanza ya no puede esperar

Por qué el 60% de las empresas ya está desplegando IA agéntica sin tener lista la gobernanza

Más del 60% de las organizaciones espera usar agentes de IA en los próximos dos años, según una investigación de Gartner citada por Octavian Tanase, Chief Product Officer de Hitachi Vantara, en un análisis publicado por Infosertec. La promesa es enorme: automatizar flujos complejos, pasar de los insights a la acción autónoma y diferenciarse por velocidad de adopción. El problema es que, como advierte Tanase, sin las salvaguardas adecuadas esa misma automatización escala los errores tan rápido como escala los aciertos.

La cifras que publicó Box en su 2026 State of AI in the Enterprise —encuesta a 1.640 responsables de TI en EE. UU., Reino Unido, Francia y Japón encargada a The Harris Poll— dibujan el tamaño real del desajuste. El 83% de las organizaciones ya corre agentes de IA, pero solo el 36% los ha conectado a contenido interno confiable en múltiples casos de uso. Y casi la mitad (46%) ya sufrió un incidente de exposición de datos vinculado a esos agentes. Solo el 34% tiene estándares formales que gobiernen cómo los agentes acceden a la información.

Lo que está en juego ya no es solo digital. La misma investigación de Morgan Stanley Research que cita Tanase estima que el mercado de robots humanoides podría superar US$5 billones hacia 2050, con más de 1.000 millones de unidades en servicio. Cuando esa flota empiece a salir del piloto, la pregunta no será si la IA física puede ser hackeada —será cuánto tarda en pasar.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

El nuevo mapa de riesgo: cuando la IA escala, el error también

Tanase resume el problema con una imagen potente: las mismas capacidades que permiten a una empresa automatizar a gran escala incrementan sus propios riesgos y los de sus grupos de interés. Tres vectores concentran el peligro hoy:

Deriva de modelos y automatización defectuosa. Un agente que toma decisiones autónomas puede propagar errores en cascada sobre los sistemas de TI y, peor aún, sobre el mundo físico (robots de almacén, vehículos autónomos, clasificación de medicamentos).
Ataques potenciados por IA. Los atacantes ya usan modelos generativos para replicar exploits y evadir defensas. La barrera de entrada para un ataque sofisticado cae en picado.
Exposición de datos sensibles. Cada acción autónoma de un agente implica leer, escribir o transmitir datos. Sin trazabilidad de qué datos usó y por qué, no hay auditoría posible.

Tanase lo expresa con una frase que cualquier founder debería enmarcar: "Si no se toma el tren correcto en el momento adecuado, todo aquello que una empresa esté desarrollando con tecnología de IA podría convertirse en un estándar básico o, peor aún, en una noticia del pasado cuando finalmente llegue a destino". Saltarse la gobernanza hoy es hipotecar la ventaja competitiva de mañana.

Qué está haciendo tu competencia (aunque aún no lo sepa)

Los datos que llegaron después de la nota de Tanase confirman la tendencia y la aceleran. El reporte de Gartner Emerging Tech: AI Vendor Race, publicado en junio de 2026, ya habla de que *"la IA agéntica se ha movido a *workforces* operativas domain-specific que resuelven problemas complejos a escala empresarial"*. El propio informe subraya que gobierno fuerte y auditabilidad son esenciales para evitar errores y violaciones de política en sectores regulados como salud y finanzas.

Al mismo tiempo, Gartner estima que hasta US$234.000 millones de gasto en aplicaciones empresariales están expuestos al agentic arbitrage entre ahora y 2030 —un cambio de modelo de licenciamiento donde el crecimiento de usuarios deja de correlacionar con ingresos porque son los propios agentes quienes "ocupan los asientos" (los llamados seats), no los humanos. Workday, por ejemplo, reportó en su último trimestre un backlog de suscripciones a 12 meses de US$8.800 millones, un 15,5% más, y confirmó que más de 4.000 clientes usan sus agentes. Oracle envió en marzo Fusion Agentic Applications, con 22 apps agénticas embebidas en sus suites de ERP, HCM, cadena de suministro y CX.

El mensaje para una startup es incómodo: los incumbentes del software empresarial están embebiendo agentes dentro del sistema de registro, donde ya viven los permisos, los audit trails y los controles que un auditor acepta. Los nuevos jugadores que lleguen "solo" con un agente suelto, fuera del system of record, tendrán que vender una segunda capa de gobierno encima.

Qué cambia cuando un agente ejecuta y no solo recomienda

Hasta aquí el problema se parecía al viejo debate de BI: garantizar que el dato fuera correcto. Con la IA agéntica cambia la física, y el análisis de Jason Bloomberg en SiliconANGLE lo nombra mejor que nadie: los LLM son no deterministas por diseño. Esa imprevisibilidad es la que les da potencia y, a la vez, la que hace imposible garantizarles una obediencia total.

Bloomberg identifica tres trampas en las que caen los marcos de gobernanza actuales:

El hall of mirrors. Para vigilar a un agente se pone otro agente. ¿Quién vigila al vigilante? Apilar "policías" no resuelve el problema, multiplica las posibilidades de conspiración o error sistémico entre ellos.
El autonomy squeeze. Cuanto más peligroso es un agente, más guardrails necesita, hasta el punto de impedirle aportar cualquier valor de negocio. Es un techo físico de la autonomía segura.
El sesgo de automatización. El human in the loop suena prudente, pero después de cien aciertos el humano se relaja y deja de verificar. Es el mismo patrón que se le atribuye al accidente de Air France 447 en 2009, según Bloomberg: la tripulación confió tanto en el piloto automático que no entendió la falla del sensor.

La conclusión operativa que el analista de Intellyx pone sobre la mesa es incómoda pero honesta: la IA agéntica nunca entrega certeza, solo confidence thresholds. El espacio entre ese umbral y 100% es lo que llama error budget. Si una línea de negocio no tolera un error budget, no despliegue agentes. Punto.

Cómo lo están abordando los que ya están en producción

Tanase propone cuatro palancas. Lo que merece la pena mirar es que las cuatro convergen en una sola idea: gobernar los datos, no solo los modelos.

Explicabilidad y trazabilidad de datos. Algunas organizaciones están registrando, vía bases de datos vectoriales, qué información se usó para entrenar y ajustar cada modelo. Funciona como una caja negra o registrador de vuelo: si un agente rechaza un crédito o recomienda una acción, la empresa puede reconstruir qué dato influyó, de dónde salió y bajo qué permiso se usó.
Ciberseguridad extendida a la capa de datos. Asume que ya estás comprometido. Arquitecturas zero trust, detección de anomalías en el volumen de datos y capacidad de generar snapshots inmutables o desconectar réplicas antes de que el daño se propague.
Restauración rápida. Cuando un incidente (ciberataque, terremoto, inundación) borra o secuestra datos, el tiempo de recuperación dicta la magnitud del daño. Una infraestructura con snapshots inmutables y detección de anomalías acorta la restauración de horas a minutos. Tanase lo vincula directamente a evitar paradas operativas, problemas legales, pérdida de clientes y daño reputacional.
IA contra IA. Mismos modelos que los atacantes usan, mismos modelos para defender. Es la única manera de pelear a la velocidad del adversario.

En la práctica, lo que Hitachi Vantara hizo público en marzo de 2026 con la expansión de Hitachi iQ sigue exactamente esa lógica: combinar blueprints de IA, coordinación multi-agente, opciones de cómputo NVIDIA Blackwell y, sobre todo, integración de datos on-prem con gobernanza enterprise-grade. El énfasis de su CPO no es casual: el comunicado cita que solo el 42% de las organizaciones en EE. UU. y Canadá son data-mature, y entre ellas el 84% reporta ROI medible de IA, contra el 48% de las que tienen cimientos de datos débiles.

¿Qué significa esto para tu startup?

Si estás construyendo un SaaS, vendes a enterprise o automatizas procesos críticos para clientes, la nota de Tanase y los datos que la rodean dejan cuatro decisiones prácticas para los próximos 90 días.

1. Trata los datos de entrenamiento y los datos en inferencia con la misma disciplina que un activo financiero. Documenta origen, derechos de uso, fecha y propósito. Sin este linaje, una sola auditoría de un cliente enterprise cierra tu venta o abre una sanción. La palanca concreta: implementa lineage tracking automatizado desde el día uno — herramientas de data catalog tipo Atlan, Alation o el propio vector DB lineage de Hitachi iQ ya lo ofrecen sin rehacer tu stack.

2. Cambia el modelo de licenciamiento antes de que el mercado lo haga por ti. El dato de Gartner sobre los US$234.000 millones expuestos al agentic arbitrage entre hoy y 2030 se aplica también a tu producto. Si cobras por seat y un solo humano termina supervisando 20 agentes que hacen el trabajo de 20 usuarios, tu ACV cae aunque tu adopción suba. Empieza a diseñar pricing por workflows completados, tareas automatizadas o tokens consumidos, y renegocia los contratos grandes antes de la próxima renovación.

3. Diseña tus agentes para vivir dentro del system of record del cliente, no al lado. Los incumbentes —Oracle, Workday, ServiceNow— ya están vendiendo agentes embebidos en sus plataformas, donde los permisos, los audit trails y los controles del auditor ya están validados. Si tu agente necesita funcionar fuera de esos sistemas, primero tienes que vender una capa de gobierno que el cliente no te va a pagar. La acción concreta: en tu roadmap, prioriza conectores y SDK nativos para Salesforce, SAP, Oracle, NetSuite y Workday, antes que features brillantes en tu propia UI.

4. Separa agentes de lectura/recomendación de agentes de escritura/ejecución. La línea entre los dos no es decorativa: define tu superficie de riesgo regulatorio. Un agente que solo recomienda necesita trazabilidad y explicabilidad. Un agente que escribe en producción necesita, además, kill switch, human-in-the-loop obligatorio en acciones de alto impacto y error budget explícito acordado con el cliente. La acción concreta: publica una matriz de qué puede hacer cada agente de tu producto sin intervención humana y qué nunca sin un humano apretando un botón.

5. Si vas a vender agentes físicos o software que toque el mundo físico, suma ciberseguridad al checklist del MVP, no después. La cifra de Morgan Stanley —1.000 millones de robots humanoides en 2050— no es ciencia ficción: ya hay 19.000 unidades enviadas solo en el primer semestre de 2026, un 272% más interanual según Morgan Stanley, y un mercado chino que ha colocado a empresas como Unitree, XPeng y Chery en producción industrial. En ese mundo, un solo exploit replicado se convierte en un incidente sistémico. El fundador que diseñe pensando en security-by-design desde la línea 1 tendrá una ventaja regulatoria enorme cuando la legislación, hoy incipiente, endurezca los requisitos.

El resumen de Tanase, y de los datos que llegaron después, es claro: la velocidad sin gobernanza convierte una ventaja competitiva en una vulnerabilidad operativa. Las startups que escalen IA agéntica sin tratar datos, seguridad y explicabilidad como producto —no como compliance afterthought— van a descubrir, en el peor momento posible, que la regulación y los clientes ya las estaban esperando.