Irán y China usan agentes de IA para crear perfiles falsos

Cómo Irán y China automatizaron redes de cuentas falsas con agentes de IA

El primer caso documentado a gran escala lo dio a conocer The New York Times este 19 de septiembre: Irán y China desplegaron cientos de agentes de IA para crear y operar redes de cuentas falsas en Instagram, Facebook, X y TikTok durante el primer semestre de 2026. Las cuentas automatizadas de la campaña iraní llegaron a sumar casi 80.000 seguidores haciéndose pasar por ciudadanos estadounidenses en grandes ciudades, publicando memes y contenido crítico con el Partido Republicano. Aunque los servicios de inteligencia estadounidenses calificaron las operaciones como técnicamente rudimentarias, el caso marca un antes y un después: por primera vez, la automatización afectó a casi todo el ciclo de una campaña de influencia, no solo a la generación de textos o imágenes.

Para un founder que usa agentes de IA en su producto, la lectura inmediata es económica: lo que antes requería un equipo humano para crear cuentas, producir contenido y coordinar interacciones, ahora lo puede hacer una persona con unos cuantos agentes bien configurados. Lo que cambia no es la capacidad de generar contenido falso — eso ya estaba resuelto — sino el coste y la velocidad para hacerlo circular con apariencia de apoyo espontáneo.

¿Qué diferencia a un agente de IA de un chatbot?

La mayoría de productos con IA que usan los emprendedores son chatbots: responden preguntas o generan textos cuando se les pide. Un agente de IA, en cambio, recibe un objetivo — por ejemplo, "publicar tres veces al día contenido crítico con un partido en cuentas que parezcan estadounidenses" — y ejecuta por su cuenta la secuencia de pasos necesarios para alcanzarlo: abrir una cuenta, completar formularios, verificar correo, redactar el post, etiquetar usuarios y responder comentarios. Esa autonomía es la que preocupa a los reguladores y la que abre la puerta a usos ofensivos a escala.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

La operación iraní: 80.000 seguidores con mínimo toque humano

Según el reporte del New York Times recogido por Business Standard y China Tech News, los operadores iraníes combinaron modelos chinos de IA de código abierto con software capaz de manejar programas. En la práctica, los agentes crearon cuentas que se presentaban como estadounidenses comunes, publicaron memes políticos, etiquetaron a periodistas y políticos en comentarios y coordinaron los mensajes entre sí para amplificarse. Casi 80.000 personas llegaron a seguir esas cuentas durante la primera mitad del año, antes de que las plataformas las detectaran y suspendieran.

Funcionarios estadounidenses y empresas de tecnología vincularon la operación a actores respaldados por el gobierno iraní. La técnica se considera rudimentaria — los modelos cometían errores que delataban el origen no humano de los textos — pero el volumen compensa: mantener cientos de perfiles activos las 24 horas con un equipo pequeño cambia las reglas del juego para quien quiera operar en redes a escala.

El caso chino y los experimentos privados vinculados a Israel

De la campaña china se sabe menos, según Business Standard: las agencias de inteligencia confirmaron que el enfoque era el mismo — modelos abiertos combinados con agentes para automatizar la influencia — pero no se detallaron métricas de alcance. Paralelamente, el NYT identificó dos operaciones vinculadas a Israel, atribuidas a empresas privadas. Una de ellas, IntelEye, fundada en Tel Aviv por exempleados del NSO Group, usó el modelo chino DeepSeek para controlar miles de cuentas e interactuar con conversaciones sobre las próximas elecciones israelíes. El cofundador Maor Sellek describió la actividad como un experimento de seguridad para entender cómo se pueden abusar los modelos mal protegidos. Meta confirmó que detectó y eliminó la mayoría de las cuentas, calificándolas como un esfuerzo coordinado para crear perfiles inauténticos.

Modelos abiertos: el multiplicador que faltaba

El elemento común a las tres operaciones fue el uso de modelos de código abierto, que se pueden descargar, modificar y ejecutar en hardware propio, sin pasar por los servidores del laboratorio que los entrenó. Como explicó el investigador de seguridad Kyle Chan al NYT, eso les da a los operadores un nivel de autonomía que no tienen con sistemas cerrados como los de OpenAI o Anthropic, donde las empresas mantienen cierto control sobre el uso. Los grupos iraníes y chinos, además, desactivaron los mecanismos de seguridad que impedirían a los modelos crear cuentas falsas o manipular debates, según reportó el NYT.

El informe de Anthropic: la IA ya opera redacciones enteras

El caso no es aislado. El 10 de septiembre de 2026, Anthropic publicó su último Threat Intelligence Report, que documenta operaciones similares detectadas entre diciembre de 2025 y agosto de 2026. Una de las más llamativas fue atribuida a LKM Company, una agencia francesa de publicidad digital que creó alrededor de 70 sitios web de noticias falsas, cada uno diseñado para parecer un medio local independiente, conectados a unas 70 cuentas de X y más de 250 cuentas de comentarios inauténticas. Anthropic identificó al menos 8.913 artículos publicados en alrededor de 20 idiomas, muchos sin generar engagement real, pero con la infraestructura lista para escalar.

El mismo informe documenta una app de citas con sede en China que operó más de 20 aplicaciones con alrededor de 4.700 personas IA que interactuaron con al menos 25.000 usuarios reales y generaron unos 2,36 millones de mensajes en solo dos semanas de abril de 2026. La IA estaba instruida para no revelar que era automatizada y conducir las conversaciones por etapas predefinidas. Cuando la interacción requería presencia humana, los operadores humanos intervenían: un modelo adicional les sugería respuestas en tiempo real.

Qué significa esto para tu startup

Tres movimientos concretos para tomar en serio:

Audita los límites de cualquier agente que uses en producción. Si tu producto integra agentes que navegan la web, completan formularios o publican contenido, revisa qué pasa si un usuario malicioso les da un objetivo fuera de tu caso de uso. Los casos que investiga Anthropic muestran que la frontera entre uso legítimo y abuso se cruza muchas veces por configuración, no por capacidad del modelo.
Piensa en la detección como una feature, no como un gasto. Tanto Meta como los investigadores del NYT coinciden en que las redes automatizadas todavía son detectables por patrones (horarios, errores de idioma, comportamiento de cuenta nueva). Si tu producto depende de la confianza entre usuarios — marketplaces, comunidades, dating, reseñas — incorporar señales de autenticidad se está volviendo tabla de marca, no diferenciador.
Prepárate para el dilema reputacional. Una startup B2B que use modelos abiertos para reducir costes hereda el riesgo de que esos mismos modelos se usen para fraude. Documentar en tu due diligence técnica qué safeguards tienes activos y cuáles están desactivados será una pregunta cada vez más frecuente de clientes enterprise y de sus equipos legales.

¿Hacia dónde va la regulación?

La presión regulatoria ya empezó. El 10 de agosto de 2026, 29 congresistas demócratas de Estados Unidos liderados por Greg Casar y Doris Matsui enviaron cartas formales a OpenAI y Anthropic exigiendo explicaciones sobre incidentes donde agentes de IA comprometidos durante pruebas de seguridad accedieron a sistemas externos. En paralelo, el senador Bernie Sanders pidió a Sam Altman, Dario Amodei y Mark Zuckerberg una pausa en el desarrollo de nuevos modelos. La administración Trump, en cambio, ha mantenido una postura de no regular para no frenar a la industria frente a China.

Fuera de Estados Unidos, Estonia anunció en junio de 2026 que será el primer país del mundo en crear códigos de identidad digital para agentes de IA, de modo que cuando un agente actúe en nombre de una persona o empresa quede claro quién responde. La idea es que los sistemas actuales de autenticación multifactor no sirven para regular agentes que "actúan, deciden y realizan transacciones a velocidad de máquina".

La combinación — modelos abiertos más baratos, agentes más capaces y regulación fragmentada — hace probable que estos casos se sigan multiplicando. Para los founders que construyen sobre esta capa, la pregunta ya no es si su producto puede ser usado para algo así, sino qué tiene implementado para que no lo sea.