Google: el mayor riesgo de los agentes de IA es la gobernanza

La advertencia de Google: del chatbot al "empleado digital"

Isaac Arellano, director del segmento corporativo de Google en México, planteó en el Púrpura Summit (un evento que reunió a más de 2.000 personas) el que considera el principal riesgo de la era agéntica: que las empresas están desplegando agentes de IA sin políticas suficientes para controlar su operación. La declaración importa porque llega de alguien que lleva más de una década en grandes tecnológicas —antes de Google pasó por Microsoft— y porque pone nombre a un problema que el resto del sector observa pero pocos cuantifican.

La diferencia con la conversación anterior sobre IA es sustancial. Un chatbot como Gemini, Copilot o ChatGPT responde a una instrucción; un agente de IA ejecuta un proceso completo de manera autónoma, conectándose con otros sistemas para completar tareas. Arellano lo resumió con un ejemplo directo: "Un agente puede consultar el inventario de una empresa para conocer la disponibilidad de un producto y después conectarse con otro sistema para completar una transacción". Dejar de ser interfaz para convertirse en infraestructura cambia las reglas del juego —y también las del riesgo.

Por qué la gobernanza quedó atrás de la adopción

El directivo de Google fue tajante: "El problema es que no estamos poniendo los resguardos y las políticas en el sistema para gobernar cómo se usa un agente, cómo se debe publicar un agente, con qué información vamos a exponer para que la gente pueda trabajar y qué hace con la información". No es una preocupación teórica: el estudio IBM 2025 sobre brechas de seguridad, citado por Market.us, encontró que el 13% de las organizaciones estudiadas sufrieron brechas involucrando modelos o aplicaciones de IA, y dentro de ese subconjunto el 97% carecía de controles de acceso adecuados.

La velocidad de adopción supera a la de control. Un reporte de AWS Reimagine 2026, basado en entrevistas confidenciales con 154 ejecutivos de 128 organizaciones en 23 industrias, recogió el siguiente diagnóstico: "Los CIO que pasaron años gestionando el shadow IT ahora lidian con shadow AI a una escala diez veces mayor". El dato se completa con una encuesta europea encargada por AWS a Strand Partners: más de la mitad de las PyMEs y grandes empresas ya usan IA, pero solo el 24% tiene un enfoque documentado de uso responsable y apenas el 10% cuenta con una estrategia de gobernanza de datos.

El tamaño del mercado que intenta resolver este problema lo confirma. Según MarketsandMarkets, el Shadow AI Risk & Governance Market pasó de USD 1.020 millones en 2025 a USD 1.390 millones en 2026, con proyección de USD 8.640 millones en 2032 (CAGR 35,6%). En paralelo, el AI Agent Permission Management Market —más enfocado en identidad y permisos— se estimó en USD 466,4 millones en 2025 y se proyecta en USD 10.910,7 millones en 2035, con un CAGR del 37,1%, según Market.us.

El nuevo rol del directivo: supervisar humanos y agentes

Arellano llevó la discusión al plano organizacional: "Nosotros vamos a estar supervisando, los que somos directores, gerentes, vamos a supervisar personas, pero también vamos a supervisar agentes". El mensaje es que la transición redefine la cadena de mando. La intervención humana no desaparece, pero cambia de naturaleza: en servicios financieros, por ejemplo, un agente puede participar en una evaluación crediticia, pero el directivo debe mantener la potestad de autorizar operaciones cuando el monto o el riesgo superan ciertos umbrales.

La misma lógica se traslada a salud, farmacéutica y manufactura, sectores donde la sensibilidad de los datos y las consecuencias regulatorias de un error elevan la necesidad de supervisión. Google Cloud dio un paso en esa dirección en mayo de 2026, cuando anunció que las identidades de agentes se integran en IAM y que las políticas específicas de allow/deny para agentes están disponibles de forma general, reduciendo la necesidad de capas adicionales de permisos. La industria en su conjunto se está moviendo en esa línea: Microsoft lanzó Entra Agent ID y, según su Annual Report 2025, más de 230.000 organizaciones ya utilizan Copilot Studio para crear agentes.

El propio reporte de AWS recomienda un enfoque pragmático: "Trátalo como un periodo de prueba para un nuevo empleado". Empezar con aprobación humana y expandir la autonomía solo cuando el agente demuestre ser confiable, manteniendo la opción de reducirla si falla. Los límites de seguridad deben fijarse fuera del agente, ya que estos pueden "malinterpretar o evadir reglas embebidas".

El riesgo ya no es quedarse atrás: es entrar sin estrategia

Arellano invirtió el marco tradicional: "Si no establecemos una plataforma de seguridad para usar un agente, nos estamos arriesgando a que mis datos personales, mis datos privados de la empresa, incluso la propiedad intelectual de la empresa se use para atacarme o para afectarme en mi negocio". La filtración de información de clientes, bases de datos o propiedad intelectual dejó de ser un riesgo hipotético para convertirse en uno de los costos documentados de una adopción desordenada.

La consolidación del sector refleja la urgencia. Palo Alto Networks cerró la compra de CyberArk en febrero de 2026 por aproximadamente USD 25.000 millones, la mayor operación en la historia de la ciberseguridad. ServiceNow completó en abril de 2026 la adquisición de Armis por cerca de USD 7.750 millones en efectivo, tras sellar la compra de Veza por más de USD 1.000 millones en marzo. Cisco cerró la compra de Astrix Security en junio de 2026 por unos USD 400 millones. En financiación, Zenity levantó USD 125 millones en Serie C en agosto de 2026 y Airia aseguró USD 100 millones en septiembre de 2025 para plataformas de gobernanza de IA. Cuando los grandes gastan miles de millones y los fondos inyectan cientos en este segmento, el mensaje para founders es claro: la gobernanza de agentes dejó de ser un nice-to-have.

¿Qué significa esto para tu startup?

La advertencia de Arellano aplica tanto a una veterinaria que automatiza su agenda con IA como a una corporación que conecta agentes con sus sistemas críticos. La diferencia está en el costo del error, no en la necesidad de políticas. Tres acciones concretas para implementar esta semana:

• Audita qué agentes ya están operando sin registro. Pide a cada área que liste las herramientas agénticas que usa (incluso las no aprobadas). El estudio de AWS estima que el shadow AI opera a 10x la escala del shadow IT; partir de un inventario real es la única forma de gobernar.
• Clasifica los procesos por nivel de riesgo antes de delegar. El modelo del Chief Data Officer de Bradesco que cita el reporte de AWS funciona así: ¿involucra datos personales?, ¿corre en vivo o en lotes?, ¿requiere humano en el bucle? Cada combinación mapea a un nivel de riesgo y a un set de controles. Si tu agente va a mover dinero o exponer datos de clientes, necesita aprobación humana explícita por monto o umbral.
• Separa la política del modelo. Los agentes pueden malinterpretar o evadir reglas embebidas. Implementa enforcement determinista fuera del LLM: APIs con scopes limitados, acceso por servicio (no por usuario humano), logs auditables de cada acción. Google Cloud IAM, Microsoft Entra Agent ID y el stack de ServiceNow post-Veza/Armis son las referencias a evaluar según tu proveedor.

Fuentes

• Google advierte sobre el mayor riesgo de la era de los agentes de IA - El Cronista
• AI Agent Permission Management Market - Market.us
• Shadow AI Risk & Governance Market worth $8.64 billion by 2032 - MarketsandMarkets (PR Newswire)
• AI tests the limits of enterprise security governance - Help Net Security