Amazon detecta agentes de IA que roban claves de modelos

Amazon capturó el diario de campaña de los propios agentes

Los agentes de IA que atacaron la red de señuelos de Amazon documentaron su propia operación: usaban claves de proveedores de IA robadas para pagar la inferencia de los modelos que buscaban más claves. La compañía lo reveló el viernes y advirtió que no puede verificar los resultados que los propios agentes reportaron.

La red MadPot, el sistema de sensores señuelo de Amazon, recopiló los registros entre el 3 de octubre y el 5 de noviembre. Los sensores estaban configurados para parecerse a APIs de inferencia de modelos de lenguaje ampliamente usadas, y los agentes transmitieron a ellos el historial completo de su campaña: las instrucciones de los operadores y los hallazgos que reportaban.

Amazon aclaró que no observó la actividad mientras ocurría y que no tiene forma de confirmar los resultados. Lo que sí pudo hacer es reconstruir el método, y ese método es lo que debería preocupar a cualquier equipo que tenga una aplicación de IA expuesta a internet.

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Cómo operaba la campaña de robo de claves

El patrón es simple y por eso mismo escalable. Los agentes escaneaban aplicaciones de IA accesibles desde internet, extraían las claves de proveedores que estaban guardadas adentro, verificaban que funcionaran y las sumaban a un conjunto compartido y gestionado.

El foco estaba puesto en aplicaciones que concentran credenciales de muchos proveedores en un solo lugar. La lógica es de apalancamiento puro: una sola página de administrador débil puede exponer decenas de cuentas de golpe.

Los productos nombrados en los registros incluyen gateways y proxies de LLM como One API, New API, Veloera, Sub2API y LiteLLM, y herramientas para construir aplicaciones como Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat y Ollama.

El libro de jugadas: qué fallas apuntaron los agentes

Los registros incluían un manual que emparejaba cada producto con sus puntos de entrada conocidos. Entre ellos:

  • La clave maestra predeterminada de LiteLLM y credenciales de administrador preestablecidas, además de instalaciones sin terminar que un tercero puede tomar.
  • CVE-2025-3248 en Langflow, una falla de autenticación faltante que permite a un atacante remoto ejecutar código. Según The Hacker News, las versiones anteriores a la 1.3.0 están afectadas y la 1.3.0 es la que corrige el problema; CISA la sumó a su catálogo de vulnerabilidades explotadas conocidas el 5 de mayo de 2025.
  • CVE-2026-28797 en RAGFlow, una inyección de plantillas del lado del servidor que permite a cualquier usuario autenticado ejecutar comandos en el servidor. The Hacker News detalla que NVD lista como afectadas la 0.24.0 y anteriores, y que la 0.25.0, publicada el 21 de abril, renderiza plantillas en el sandbox recomendado.
  • Un bypass de autenticación en la familia One API enviando el encabezado isCliRequest.

Para encontrar claves filtradas, los agentes recurrieron a repositorios de GitHub, paquetes de npm y PyPI, capas de imágenes de contenedores, sitios de paste y canales de Telegram. Cuando daban con credenciales de nube, apuntaban a servicios gestionados que alojan modelos de IA, almacenes de secretos e identidades de aplicaciones, priorizando los modelos premium por encima del acceso general a la nube.

Una segunda campaña usó deepfakes para intentar pasar los controles de conocimiento del cliente en un par de intercambios de criptomonedas. El servidor de un proveedor de verificación rechazó el deepfake en cada intento que los agentes registraron.

Amazon dijo que notificó a los clientes de AWS que consideró potencialmente afectados y publicó indicadores de compromiso para que otras organizaciones puedan revisar sus entornos.

ARTEX: el marco detrás de la ola

Amazon evaluó con confianza moderada que los agentes corrían sobre ARTEX, un marco de pruebas de penetración con IA de código abierto, y que los operadores eran grupos separados con nexos en China. Citó indicaciones en chino simplificado, configuraciones de zona horaria de China y objetivos consistentes con intereses chinos.

El FBI emitió una alerta FLASH con fecha del 13 de noviembre en la que señaló que ARTEX fue usado por varios grupos de amenazas desde al menos agosto. Según Infosecurity Magazine, los blancos abarcaron servicios financieros, gobierno, tecnología, defensa, semiconductores, energía, salud, manufactura, telecomunicaciones y el sector legal.

Las cifras que acompañan la alerta son duras. El FBI reportó que algunas intrusiones pasaron del objetivo inicial al acceso privilegiado en menos de tres horas, y que hubo ataques contra instituciones financieras de Corea del Sur que expusieron información personal de aproximadamente 67.000 personas, además de un compromiso en la cadena de suministro de ConnectWise Cloud Backup que habilitó el acceso a más de 2.250 inquilinos aguas abajo.

Según BleepingComputer, para comienzos de noviembre los investigadores habían identificado más de 1.600 consolas ARTEX expuestas públicamente, y el número real de despliegues se cree bastante mayor. El desarrollador publicó el marco en GitHub bajo el seudónimo Autumn-27 en julio y eliminó el repositorio en octubre, pero la herramienta sigue disponible a través de bifurcaciones de la comunidad, copias archivadas y una variante comercial llamada ARTEX PRO.

Cloudflare rastreó más de 50 familias de frameworks de pentesting con IA intentando escanear a sus clientes en los tres días previos a su publicación del 13 de noviembre. Cisco Talos analizó la actividad de ARTEX y concluyó que la usan principalmente ciberdelincuentes con motivación financiera y actores con nexos en China.

¿Qué significa esto para tu startup?

La frase que resume el hallazgo la dijo Amazon misma: "Ninguna de las técnicas en estas campañas era nueva. Lo que los agentes de IA cambian es la velocidad y la persistencia del atacante".

Para un equipo chico, eso cambia el cálculo por completo. El atacante ya no necesita un especialista dedicado ni tiempo de analista: necesita encontrar una app de IA expuesta con una clave adentro. Y la mayoría de las startups hispanohablantes que montan un gateway de LLM o un builder de agentes lo hacen con la configuración por defecto, porque el objetivo era prototipar rápido y salir a validar.

El segundo punto es el modelo de amenaza. Los agentes no buscaban la joya de la corona: buscaban los sistemas que nadie mira. Portales de partners, backends móviles, herramientas internas de ventas, servicios heredados e integraciones de terceros. Si tu equipo no tiene a nadie asignado a esos sistemas, están en la lista.

El tercero es el costo. Las claves robadas no se usan solo para entrar: se usan para pagar inferencia. Un gasto inesperado en tu factura de modelos puede ser la primera señal de que alguien más está usando tu cuenta, y para cuando lo notes puede llevar semanas corriendo.

Acciones concretas para proteger tus claves de IA

  • Trata tus apps de IA como sistemas de producción. Amazon recomendó aplicar controles estándar de seguridad a las aplicaciones de IA, los gateways de modelos y los endpoints que sirven inferencias. En la práctica: autenticación obligatoria en cada endpoint, ningún panel de administración abierto y ninguna instalación a medio terminar.
  • Rota y saca las claves del código. Revisa archivos de configuración, variables de entorno, scripts de despliegue, pipelines de CI/CD y bases de datos en busca de secretos embebidos. Si una clave estuvo expuesta, rotarla es la única respuesta que sirve.
  • Pon vencimiento y restricción de IP a los tokens de API. The Hacker News reportó que en un incidente investigado por Cloudflare el token comprometido no tenía restricciones de IP ni límite de tasa, y la actividad posterior incluyó 400 solicitudes de volcado de base de datos en una hora.
  • Vigila el gasto y los patrones de uso raros. Amazon recomendó estar atento a cargos sorpresa o patrones de uso extraños. Un pico de consumo de tokens que nadie puede explicar es una alerta, no una buena noticia.
  • Revisa las versiones de tus herramientas. Si usas Langflow, RAGFlow o algún gateway de la familia One API, verifica la versión y aplica los parches disponibles antes de seguir sumando features.

Conclusión

Lo que Amazon capturó no es un ataque sofisticado: es un ataque automatizado y paciente, montado sobre fallas conocidas y configuraciones por defecto. La novedad está en que el costo marginal de intentarlo se desplomó, y en que ahora el propio atacante deja registro de su método en los señuelos que lo esperan.

Para un founder, la lectura práctica es que la seguridad de las aplicaciones de IA dejó de ser un tema de cumplimiento y pasó a ser una línea de tu presupuesto y de tu roadmap. Si tus claves de proveedores están en un panel sin autenticación, alguien las va a encontrar. La única pregunta abierta es si lo vas a saber por tu factura o por un incidente.

Fuentes

Leíste lo que hace la IA. ¿Y en tu negocio?

Un agente de IA puede quedarse con parte de tu día: ordenar lo pendiente y pedirte el OK antes de actuar. El Kit «tu mano derecha con IA» trae un video de 11 minutos y una ficha para dejar al tuyo trabajando. CAR está cerrada por ahora; al anotarte, te avisamos cuando abra.

👥 Quiero el Kit →

Daily Shot: Tu ventaja táctica

Lo que pasó en las últimas 24 horas, resumido para que tú no tengas que filtrarlo.

Suscríbete para recibir cada mañana la curaduría definitiva del ecosistema startup e inversionista. Sin ruido ni rodeos, solo la información estratégica que necesitas para avanzar:

  • Venture Capital & Inversiones: Rondas, fondos y movimientos de capital.
  • IA & Tecnología: Tendencias, Web3 y herramientas de automatización.
  • Modelos de Negocio: Actualidad en SaaS, Fintech y Cripto.
  • Propósito: Erradicar el estancamiento informativo dándote claridad desde tu primer café.

📡 El Daily Shot Startupero

Noticias del ecosistema startup en 2 minutos. Gratis, todos los días.

Share to...