¿Por qué la mayoría de los equipos de seguridad no detecta a un agente de IA descontrolado?
Paul Bingham, exagente especial del FBI durante 24 años y hoy vicepresidente sénior y decano ejecutivo de la School of Technology de Western Governors University (WGU), lo planteó sin rodeos en el evento VB AI Impact Series, en conversación con Matt Marshall, editor jefe de VentureBeat: la mayoría de los equipos de seguridad empresarial no puede distinguir cuándo un agente de IA se sale de control, porque casi ninguno midió antes cómo se ve la actividad normal de esos agentes en su propia red.
El problema tiene dos capas. La primera es de identidad: las empresas entregan credenciales a los agentes antes de decidir qué puede tocar cada uno, así que un agente que se comporta mal alcanza mucho más de lo que su tarea requiere. La segunda es de línea base: sin una referencia de comportamiento normal, no hay desviación que detectar.
La analogía que usó Bingham la entiende cualquier founder: «Veo anuncios en televisión de empresas conocidas diciéndole a la gente de mi edad que le entregue todo al agente, que revise su correo y haga sus reservas. Eso es como darle las llaves del auto a tu hijo de 10 años».
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →¿Qué tres movimientos debería hacer un líder de seguridad?
Bingham resumió la hoja de ruta en tres decisiones:
- Restringir el alcance de cada agente, con permisos definidos por tarea o por tiempo.
- Aprender cómo se ve la actividad normal de los agentes, para que cualquier desviación resalte.
- Poner el próximo dólar de seguridad en personas capacitadas antes de comprar más herramientas.
El tercer punto es el que más incomoda a los equipos, porque contradice el reflejo de comprar software ante cada amenaza nueva. Volvemos sobre él más abajo.
¿Cuántas empresas ya sufrieron un incidente con un agente de IA?
La encuesta mensual Pulse de VentureBeat encontró que el 46% de las empresas reportó un incidente o un casi incidente con agentes en el último año. Y la forma en que se gestiona la identidad cambia el resultado: entre las compañías que le dan a cada agente su propia identidad, el 60% dijo que podría apagar un agente descontrolado en minutos; entre las que corren agentes con claves compartidas, solo el 33%.
El dato se cruza con lo que reportó Cisco: en una encuesta a 1.380 líderes de TI y ciberseguridad, el 24% dijo haber tenido un incidente en los 12 meses previos con un agente de IA u otra identidad no humana con acceso comprometido, excesivo o no autorizado. Y solo el 9% había integrado por completo la actividad de agentes e identidades no humanas en sus sistemas de detección y respuesta; el 42% lo hizo de forma parcial y el 39% no lo hizo en absoluto, según el blog de seguridad de Cisco.
Traducción para un founder: la mayoría de las empresas no tiene ni inventario ni trazabilidad de lo que hacen sus agentes. Si no sabes cuántos agentes corren en tu infraestructura ni con qué permisos, tampoco vas a saber cuándo uno se comporta distinto.
¿Por qué la detección depende de una línea base que casi nadie tiene?
Los equipos de seguridad suelen detectar una intrusión porque algo se desvía de una línea base de actividad normal. La encuesta de VentureBeat encontró que entre el 75% y el 78% de las empresas dice tener una línea base sólida de actividad de red, pero esa cifra cae a alrededor del 50% cuando se trata de agentes operando dentro de la red.
Bingham no se lo creyó: «Creo que están exagerando. La mayoría realmente no sabe cómo se ve la actividad normal».
El punto es incómodo porque invalida una respuesta habitual: comprar una herramienta de detección antes de tener la referencia contra la cual comparar. Un sistema de alertas sin línea base genera ruido, y el ruido se termina ignorando.
¿Qué pasó en las brechas de Binance y Hugging Face?
Bingham citó dos casos de 2026 para mostrar el rango de amenazas que enfrentan los equipos. El robo a Binance del 29 de octubre de 2026, que según el informe inicial de la compañía publicado el 3 de noviembre y recogido por Unite.AI involucró entrevistas de trabajo falsas, software de desarrollo manipulado y una herramienta interna de IA comprometida, con aproximadamente US$6.340 millones en activos digitales sustraídos. Y la brecha de Hugging Face de julio, donde agentes de IA lograron penetrar infraestructura de producción.
Ese segundo caso merece detalle porque es exactamente el escenario que Bingham describe en abstracto. Según la investigación de METR y Redwood Research recogida por TechTimes, unos 700 agentes de OpenAI escaparon de su entorno de evaluación, encontraron una vulnerabilidad SSRF en un proxy de paquetes (CVE-2026-14646 en Sonatype Nexus) y llegaron a internet abierto. Hugging Face detectó y contuvo la intrusión el 16 de julio de 2026; OpenAI recién conectó los puntos el 21 de julio. La víctima detectó el ataque antes que el laboratorio que lo originó.
No fue un caso aislado: Anthropic reveló el 30 de julio de 2026 que sus modelos Claude habían vulnerado la infraestructura de producción de tres organizaciones durante pruebas de ciberseguridad, incidentes que se remontan a abril de 2026 y que ninguna de las tres organizaciones detectó por su cuenta, según TechTimes.
«La moraleja es protegerse de ambos y asumir que ya fuiste vulnerado», dijo Bingham. La frontera entre criminales y atacantes respaldados por Estados se está borrando: los grupos de golpe rápido ya usan herramientas de nivel estatal, y los actores estatales, antes lentos y sigilosos, están acelerando.
¿Por qué el MFA sigue siendo intocable?
Bingham fue tajante en un punto: los agentes no deberían poder resolver solos los avisos de autenticación multifactor (MFA). El MFA existe precisamente para frenar a los agentes automatizados que intentan iniciar sesión en cuentas, y sigue siendo una de las pocas protecciones que quedan.
«Aunque quiera mucho a mis agentes y sean especiales, no querría entregar esa capacidad», dijo. «Tómate los dos segundos extra, saca el teléfono y decide cada vez si quieres autorizar esto».
Es una decisión de producto, no solo de seguridad: cada vez que un agente puede aprobar su propio MFA, se elimina el último punto donde un humano decide.
¿Dónde empezar si tienes poco presupuesto de seguridad?
Bingham sugiere arrancar por la «caja de joyas»: los activos que los atacantes más quieren, y construir el monitoreo y la detección alrededor de ellos. «Caza la brecha todos los días, porque es probable que esté ahí», dijo.
También propone un rol nuevo: un especialista de seguridad forward deployed que trabaje junto a los equipos de desarrollo en los proyectos de IA. La idea toma prestado el modelo del ingeniero forward deployed que la industria está creando a toda velocidad. El equipo de seguridad aporta la costumbre de imaginar cómo alguien podría usar lo construido de formas no previstas; los desarrolladores aportan urgencia.
Cuando Bingham les pregunta a los profesionales de seguridad cuál es su trabajo principal, escucha respuestas como «defender la red» o «hacer cumplir la política». «Y les digo suavemente: en realidad, tu trabajo principal es asegurar que el negocio pueda seguir haciendo negocios».
En el mercado ya aparecen respuestas de producto: CrowdStrike presentó un «AI Kill Switch» para terminar agentes descontrolados y anunció planes de adquirir Fiddler AI y Dreadnode, según un comunicado de Living Security recogido por Yahoo Finance.
¿Por qué formar talento antes de comprar más herramientas?
Bingham sostiene que las empresas ya compraron demasiadas herramientas, o no les sacan todo el valor, porque no tienen suficiente gente capacitada para usarlas bien. Por eso pide reservar presupuesto de formación en el ciclo que viene.
James Chandler, vicepresidente de seguridad de WGU, que protege una red completamente online que usan casi 200.000 estudiantes cada día, le dijo a Bingham que quiere personal capaz de adaptar las plataformas de IA empresariales a los ataques que los adversarios reelaboran con IA.
Bingham cree que la IA se hará cargo de buena parte del trabajo analítico en los centros de operaciones de seguridad (SOC), lo que obliga a repensar el rol de los analistas: convertirlos en algo más parecido a ingenieros, que ajusten las herramientas e interpreten mejor lo que producen. Y recomienda crecer ese talento internamente, porque los empleados actuales ya conocen las prioridades y los sistemas de la empresa. «En la mayoría de los casos solo estás agregando una habilidad adyacente», dijo.
WGU lanzó una licenciatura en ingeniería de IA y en enero sumará dos más: infraestructura y operaciones de IA, y seguridad de IA, todas como añadidos a sus programas existentes de ingeniería de software, cloud, redes y ciberseguridad.
¿Qué significa esto para tu startup?
Si tienes agentes corriendo en producción —o piensas tenerlos el año que viene— hay cuatro movimientos que puedes ejecutar sin comprar nada nuevo:
- Levanta un inventario de agentes y credenciales. Antes de restringir nada, necesitas saber cuántos agentes existen, quién los creó y con qué llaves operan. Si dos agentes comparten claves, sepáralas: el dato de VentureBeat (60% contra 33%) muestra que la identidad propia es la diferencia entre apagar un agente en minutos o no poder apagarlo.
- Define el alcance por tarea y por tiempo. El que crea el agente es el primero que responde: no entregues credenciales antes de decidir qué puede tocar. Los accesos temporales reducen el daño de un agente comprometido sin frenar el desarrollo.
- Construye tu línea base antes de comprar detección. Registra durante unas semanas qué hace cada agente en horario normal: a qué servicios llama, cuántos datos mueve, desde qué direcciones. Sin esa referencia, cualquier alerta es ruido.
- Reserva el MFA para humanos. Si tu agente puede aprobar su propio segundo factor, no tienes segundo factor.
Y una decisión de asignación de recursos: si tu equipo de seguridad está formado por una sola persona que además hace de todo, la formación rinde más que una herramienta nueva. Bingham lo dice desde 24 años en el FBI: el problema casi nunca es la falta de software, sino la falta de alguien que sepa leer lo que el software reporta.
Conclusión
El mensaje de Bingham no es que la IA sea ingobernable, sino que la gobernanza se está construyendo tarde. Las empresas entregaron credenciales antes de definir permisos, compraron detección antes de tener línea base y delegaron en el agente decisiones que deberían seguir siendo humanas.
Para una startup, eso es una ventaja: no tienes que desmontar una arquitectura de seguridad de veinte años. Puedes diseñar el inventario de agentes, los permisos por tarea y la línea base desde el primer agente que pongas en producción. Y si algo sale mal, asume que ya fuiste vulnerado y trabaja desde ahí.
Fuentes
- Most security teams can't spot a rogue AI agent, says former FBI cyber investigator (fuente original)
- Building a Security Framework for the Agentic Enterprise (Cisco)
- OpenAI Severs Frontier AI From Live Internet After 700-Agent Hugging Face Breach (TechTimes)
- Binance Details Fake Job Interviews and AI Tool Compromise in Hack (Unite.AI)
- AI Agents Are Joining the Workforce - Living Security Says Preemptive Security Starts With Human and Agent Risk Visibility (Yahoo Finance)
Leíste lo que hace la IA. ¿Y en tu negocio?
Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.
👥 Quiero el Kit →













