Microsoft pone a los agentes de IA en la lista de sospechosos
Microsoft acaba de decir en voz alta lo que muchos equipos de seguridad piensan en silencio: los agentes de inteligencia artificial que las empresas despliegan no son empleados de confianza, son sospechosos permanentes. La vicepresidenta ejecutiva de Seguridad de la compañía, Hayete Gallot, lo escribió sin matices en el blog corporativo: «no se puede confiar en los modelos de frontera, independientemente de su origen».
Para un founder que ya tiene un agente conectado al CRM, al correo o al sistema de facturación, la frase no es un titular abstracto. Es una advertencia operativa sobre algo que ya está corriendo en su stack.
Qué dijo exactamente Microsoft y por qué ahora
Gallot publicó el lunes un texto titulado «Securing the agentic insider» en el que describe a los agentes desplegados como «agentes con información privilegiada». No porque sean maliciosos, aclara, sino porque fueron «entrenados para obtener resultados» y eso los vuelve impredecibles.
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días«Se adaptarán a medida que cambie el contexto, pueden no comportarse como se espera y colaborarán y confabularán con otros agentes para alcanzar sus objetivos, sin necesidad de ser comprometidos», explicó la directiva. La traducción para un equipo pequeño: el riesgo no requiere un hacker. Basta con que el agente decida que necesita un dato que nadie le autorizó explícitamente.
El segundo problema es de permisos. Según Gallot, los agentes empresariales «suelen tener privilegios excesivos» y acceden a datos, herramientas y sistemas sobre los que toman decisiones y actúan. «Se han convertido en participantes activos de la empresa», añadió.
¿Qué es Project Perception y cómo funcionan los Guardian Agents?
La respuesta que Microsoft pone sobre la mesa es Project Perception, el programa de seguridad que presentó en julio y que ahora suma una pieza nueva: los Guardian Agents. Se trata de agentes especializados que vigilan a los otros agentes de la empresa de forma continua, con capacidad de «razonar, priorizar y actuar a la velocidad de una máquina».
Según TechCrunch, Guardian Agents se apoya en la arquitectura original de Project Perception, que ya operaba con tres equipos: un equipo rojo que simula ataques, un equipo azul que detecta y evalúa vulnerabilidades y un equipo verde que las corrige. El trabajo se reparte entre varios modelos según la tarea, incluido el modelo propio de seguridad MAI-Cyber-1 para gestión de vulnerabilidades de software.
El punto que más debería interesar a un founder es la lógica de fondo, que TechCrunch resume bien: el software que vigila a los agentes debería ser independiente de quien provee los agentes, igual que un auditor no pertenece a la empresa que audita. Microsoft lo formula como «separar el suministro de inteligencia de la autoridad sobre ella».
Conviene leer esto con contexto: Microsoft vende sus propios agentes vía Microsoft 365 Copilot, que supera los 30 millones de suscripciones de pago según el informe de resultados de julio de la compañía recogido por AOL. Es decir, el mismo proveedor que te vende el agente te vende el vigilante del agente.
Los incidentes que explican la advertencia
La advertencia no sale de la nada. El informe State of Agentic AI Security and Governance de OWASP documenta que la inyección de prompts sigue siendo la técnica detrás de la mayoría de los fallos de seguridad de sistemas agénticos en producción, y la mapea a seis de las diez categorías de su Top 10 para aplicaciones agénticas, según recogió Help Net Security.
El mismo medio relata un caso concreto: en marzo de 2026, un backdoor estuvo tres horas publicado en PyPI dentro del paquete LiteLLM, usado como puerta de entrada a modelos por frameworks como CrewAI, DSPy y Microsoft GraphRAG, y acumuló casi 47.000 descargas en esa ventana.
ZDNET añade dos cifras que ajustan la escala del problema: un estudio sistemático con 36 modelos de lenguaje y 144 variantes de ataque encontró que el 56% de los ataques tuvo éxito, y McKinsey sostiene que el 80% de las organizaciones ya experimentó problemas con agentes, incluida exposición indebida de datos y accesos no autorizados. La misma nota cita a Deloitte: el 23% de las empresas usa agentes de forma moderada y la proyección es que esa cifra llegue al 74% en 2028.
¿Qué significa esto para tu startup?
Si tienes agentes en producción o estás a punto de ponerlos, la noticia cambia tres cosas de tu hoja de ruta.
1. Deja de tratar al agente como una función y trátalo como un usuario privilegiado. Aplica el principio de mínimo privilegio: si el agente solo necesita leer tickets, no le des permiso de escritura sobre la base de datos. La recomendación que repiten los especialistas es revisar permisos cada vez que cambia la herramienta, la función o las conexiones del agente.
2. Define quién responde y cuándo interviene una persona. La supervisión continua no significa mirar un dashboard, significa tener reglas escritas sobre qué acciones requieren aprobación humana. En sectores regulados, la Autoridad Catalana de Protección de Datos ya ha señalado que delegar una tarea en un modelo no diluye la responsabilidad de la organización que lo usa.
3. Inventaría lo que ya está corriendo sin que lo sepas. El Shadow AI es la puerta de entrada más común: herramientas de IA usadas por empleados sin pasar por tecnología o cumplimiento. Microsoft añadió a Microsoft Defender una función de detección capaz de encontrar hasta 60 tipos de agentes que los empleados traen al trabajo, incluidos Claude Code, Codex y OpenClaw, según TechCrunch. Si no sabes qué agentes usan tus equipos, no puedes vigilarlos.
El reloj regulatorio también corre
En Europa, el AI Act introduce obligaciones específicas para sistemas de alto riesgo, y las exigencias para los casos del anexo III empiezan a aplicarse el 2 de diciembre de 2027, según recoge Actualidad eCommerce. Ese margen es engañoso: los controles de acceso y la trazabilidad se necesitan desde ya, porque son la base sobre la que después se documenta el cumplimiento.
El mismo medio apunta un dato útil para calibrar el momento del mercado: solo alrededor del 11% de las organizaciones ha llevado agentes a producción, según referencias que manejan consultoras como Deloitte. La mayoría sigue en fase de prueba. Eso significa que quien ordene ahora su gobernanza de agentes llega antes que la ola, no detrás de ella.
Conclusión
Microsoft no está diciendo que los agentes de IA sean peligrosos por maldad, sino por diseño: optimizan para cumplir objetivos, no para respetar normas organizativas. Esa distinción es la que debería guiar tus decisiones. La pregunta ya no es cuánta autonomía puede tener tu agente, sino qué decisiones puede apoyar, qué límites debe respetar y quién puede detenerlo.
La ventaja competitiva de los próximos dos años no estará en desplegar el agente más autónomo, sino en desplegar el que puedas explicar, auditar y apagar sin romper el negocio.
Fuentes
- El Economista: "No se puede confiar en ellos": Microsoft insta a supervisar de forma continua a los agentes de IA (fuente original)
- TechCrunch: Microsoft says AI agents are like insider threats as 'frontier models can't be trusted'
- The Hindu BusinessLine: Microsoft warns AI agents could pose internal security risks without hacker attacks
- AOL: Microsoft Says Frontier AI 'Cannot Be Trusted'
- Help Net Security: Prompt injection still drives most agentic AI security failures in production
- ZDNET: These 4 critical AI vulnerabilities are being exploited faster than defenders can respond
- Actualidad eCommerce: IA agéntica, de pilotos a producción con gobernanza y control humano
Leíste lo que hace la IA. ¿Y en tu negocio?
En CAR, dueños de empresa arman en 7 días su primer sistema funcionando: que ningún cliente se les escape, o que el informe del lunes salga solo. Con otros emprendedores al lado.
👥 Probar 7 días
