Anthropic destapa apps de citas con IA: 25.000 afectados

Una red industrial de fraude con IA

El 5 de junio, Chris Cronbaugh, investigador de Anthropic, dio una charla en la conferencia de ciberseguridad Sleuthcon titulada "Swipe Right, Pay Up: Industrial-Scale AI Catfishing". La presentación destapaba una operación que la propia Anthropic llevaba meses observando: una red de unas 28 apps de dating donde las mujeres con las que los usuarios hablaban eran, en su mayoría, personas generadas por IA que funcionaban 24/7 impulsadas por Claude. Anthropic publicó luego sus hallazgos en el reporte "Detecting and countering misuse of AI: September 2026", según reportó The Verge.

Cómo estaba montada la estafa

La estructura combinaba tres capas:

Usuarios reales (mayormente hombres de entre 35 y 45 años) que pagaban por continuar conversaciones dentro de la app.
Personas IA (los perfiles falsos con los que chateaban) que respondían de forma autónoma usando Claude como motor conversacional.
Gig workers humanos contratados puntualmente para tareas que la IA no podía resolver, como videollamadas en vivo o seguir cuentas de Instagram.

Según el reporte de Anthropic citado por The Verge, tres de cada cuatro perfiles en el feed eran inventados. Cuando un humano estaba disponible, se usaba para validar que el bot pasaba las pruebas de liveness; cuando no, el backend fabricaba likes, visitas e incluso videollamadas pregrabadas.

🤖 La IA no es solo para leer sobre ella

En la comunidad la aplicamos: automatización, agentes IA y herramientas reales para emprender, no solo para informarte.

👥 Aplicarla en la comunidad

Las cifras

El reporte detectó, en una ventana de dos semanas de abril de 2026:

Más de 4.700 personas IA distintas en activo.
Al menos 25.000 usuarios únicos interactuando con ellas.
2,36 millones de mensajes intercambiados.

Las apps mencionadas en la investigación incluyen Dora, Doni, Romi, Luma, Jovia, Kira, GraceChat, Haven, Nalo y Lovia, además de variantes que Anthropic sólo identificó con IDs numéricos internos. El medio NTD reportó que Anthropic rastrea a la operación bajo el código GTG-15001.

Una empresa criminal, no aficionados

El propio Cronbaugh describió en Sleuthcon que la operación estaba construida "como una empresa real", con equipo de ingeniería, roadmaps, planes de growth y comportamiento diseñado específicamente para esquivar las revisiones de Apple y Google Play. Según el reporte:

Las apps se mostraban como dating apps legítimas durante el proceso de revisión y activaban la red de bots tras ser aprobadas.
Cambiaban el código interno para evitar coincidencias por hash.
Usaban un navegador in-app oculto que redirigía los pagos a procesadores externos, sorteando las comisiones de las tiendas.
Cambiaban de proveedor de IA cada vez que Anthropic baneaba una cuenta.

Tate Jarrow, fundador de la app antiscam Jacana y exagente de cibercrimen del Servicio Secreto de Estados Unidos, declaró a The Verge: "Los estafadores sofisticados manejan operaciones como negocios, lo que significa que se preocupan por ingresos y costos. Aprovechan herramientas para ganar eficiencia."

El rastro chino y por qué tardó tanto en caer

Anthropic atribuye la operación a un estudio con sede en China, basándose en manuales internos en chino e infraestructura alojada en proveedores chinos. El investigador Matthew "Zigula" Gore-Kormanik, que analizó los APKs de varias apps en su laboratorio, encontró que usaban:

Tencent Cloud para mensajería y video en tiempo real.
Feishu para documentación interna.
Gitee como repositorio de código.
ByteDance para analítica y atribución de anuncios.

Las apps no funcionaban dentro de China y la monetización estaba desactivada en Asia; sólo se activaba el modo estafa fuera del continente, un patrón clásico para evitar enforcement local.

Por qué Google y Apple tardaron meses

Según The Verge, varias de estas apps (Doni, Dora, Jovia, Nalo, Romi) seguían en Google Play Store a principios de junio. Anthropic dice haber compartido los hallazgos con Apple y Google; aún así, la mayoría sólo se eliminaron entre el 21 de agosto (Apple) y el 7 de septiembre (Google). Al cierre de la nota, Kira seguía activa en Google Play Store, confirmó Gore-Kormanik a The Verge.

El reporte de Anthropic lista incluso como indicador una dirección backend alojada en Google Cloud (managedkafka[.]heyhru-server[.]cloud[.]goog), lo que reabre la pregunta de por qué la infraestructura no se cerró antes.

Qué significa esto para tu startup

Si trabajas en una app con pagos in-app, contenido generado por usuarios o cualquier modelo de economía de atención, este caso deja tres lecciones que puedes aplicar desde hoy:

1. Las revisiones de app stores no alcanzan. Los operadores mostraban una versión limpia durante el review y activaban el fraude después. Diseña tus checks asumiendo que el comportamiento real diferirá del aprobado: instrumenta métricas como tasa de conversión entre registro y primer chat, frecuencia de mensajes por usuario y ratio entre cuentas que chatean y cuentas que pagan. Si esas métricas se desvían del baseline tras un update, es una señal.

2. La trazabilidad entre vendors es crítica. El fraude se sostuvo porque Anthropic, Google Cloud, Tencent Cloud, ByteDance y los procesadores de pago no compartían señales. Si tu producto depende de varios proveedores de IA o de infraestructura, mantén un registro único de qué cuenta usa qué modelo, en qué región y con qué propósito. Esa trazabilidad es lo que te permite colaborar con vendors sin perder días cuando ocurre un incidente.

3. El AI safety pasó de marketing a tabla de supervivencia. El reporte de Anthropic tiene 154 páginas y cubre seis casos de uso indebido: apps de dating, drones kamikaze en Rusia, vigilancia estatal en Mali, misiles en Yemen, propaganda en Francia y operación de influencia en EAU (según Digital Journal). Para una startup que integra LLMs, esto redefine el estándar: necesitas políticas de uso, detección de abuso y un canal directo con el proveedor de modelo antes de salir a producción, no después del primer incidente mediático.

El fondo: el romance scam ya costaba US$1.140M

Para dimensionar el mercado en el que se mueve este tipo de fraude, vale un antecedente: según datos de la FTC citados por USA Today en agosto de 2026, las estafas románticas en línea costaron a los estadounidenses US$1.140 millones sólo en 2023. Anthropic estima que, en este caso particular, los bots llegaron a manejar 2,36 millones de mensajes en dos semanas. La monetización se hacía con monedas in-app compradas con dinero real, sin necesidad de pedir transferencias ni cripto: el usuario pagaba por hablar con quien creía que era una persona.

Conclusión

El caso destapado por Anthropic muestra el salto cualitativo del fraude con IA: ya no se trata de un bot que responde con plantillas, sino de una empresa criminal que orquesta personas IA, gig workers humanos, infraestructura cloud y bypass de app stores como si fuera un SaaS legítimo. Para founders, el mensaje es claro: cualquier producto con chat, matches o economía de tokens puede ser el siguiente en esta lista. La defensa ya no es sólo moderación de contenido: es trazabilidad de vendors, monitoreo de comportamiento post-aprobación y políticas de uso activas con tu proveedor de IA.