✨︎ Resumen (TL;DR):
- Anthropic vinculó a un estudio con sede en China con más de 20 apps de citas donde la IA generaba la mayoría de los perfiles.
- En dos semanas de abril de 2026, más de 4,700 identidades falsas intercambiaron unos 2.36 millones de mensajes con al menos 25,000 usuarios reales.
- Las apps cobraban monedas para seguir chateando; los trabajadores humanos aparecían sobre todo en videollamadas y tareas que la IA no podía simular de forma convincente.
Anthropic identificó una red de apps de citas que un estudio con sede en China manejaba con Claude para mantener conversaciones románticas falsas. En dos semanas de abril de 2026, más de 4,700 perfiles sintéticos intercambiaron unos 2.36 millones de mensajes con al menos 25,000 usuarios reales, quienes debían comprar monedas para continuar el chat.
Matthew Gore-Kormanik, investigador de seguridad conocido como Zigula, analizaba la app de citas Dora cuando recibió una llamada de Jennifer. La aplicación presentaba ese perfil como una mujer de 41 años, con el pelo rojo y gusto por el terror y la vida nocturna. Jennifer no existía: Claude operaba el perfil sintético.
Claude es un modelo de IA de Anthropic que genera respuestas para mantener conversaciones; en esta red, asumía el papel de una posible pareja.
Una anomalía en la API reveló la red
El reporte de amenazas que Anthropic publicó el 10 de septiembre de 2026 explica que la compañía detectó la operación a partir de una cuenta de prepago de apenas cinco días, sin historial, que comenzó a enviar más de 100,000 peticiones al día a su API. Ese rastro llevó a una red que la compañía llevaba meses observando.
El 5 de junio, Chris Cronbaugh, investigador de amenazas de Anthropic, describió el caso en la conferencia de ciberseguridad Sleuthcon, durante la charla Swipe Right, Pay Up: Industrial-Scale AI Catfishing. Habló de una red de alrededor de 28 apps de citas en la que la mayoría de las conversaciones no pasaba por un humano.
El reporte de amenazas también habló de más de 20 apps. Anthropic logró vincularlas por una frase mal construida, lo bastante distintiva para rastrear la red completa. Durante dos semanas de abril de 2026, la red reunió más de 4,700 identidades falsas y unos 2.36 millones de mensajes con usuarios reales.
Claude hablaba y los humanos verificaban
Claude funcionaba como la capa de conversación y respondía mensajes a toda hora. Un segundo modelo generaba las fotos de los perfiles; un tercero producía los emojis y stickers. El estudio operaba con una proporción aproximada de tres sistemas de IA por cada trabajador humano contratado por encargo.
Los trabajadores humanos intervenían solo cuando la IA no podía falsificar algo de forma convincente: participaban en videollamadas en vivo y seguían cuentas en redes sociales. Las apps completaban la ficción con visitas falsas a los perfiles, likes inventados y videoclips pregrabados que se reproducían cuando no había una persona disponible.
El cobro estaba dentro del match
El esquema no seguía la estafa romántica clásica, que pide un préstamo o inventa una emergencia. Aquí la app cobraba por el propio chat: medía el uso de las conversaciones y los matches con una cuota, y exigía comprar monedas dentro de la aplicación para seguir escribiendo.
Anthropic encontró que la IA generaba 75% de los perfiles que aparecían en los feeds y que las apps no los identificaban como tales. Solo una cuarta parte correspondía a personas reales.
Los desarrolladores también prepararon las apps para esquivar los controles de las tiendas. Mostraban a los revisores de Apple y Google una versión limpia y en regla; después de la aprobación activaban las funciones engañosas.
En algunos casos, el modelo reconocía que un usuario había revelado una enfermedad grave o atravesaba una crisis personal aguda. Aun así, continuaba respondiendo como pareja romántica en vez de cortar la conversación.
Seis apps compartían la misma base
Gore-Kormanik analizó los archivos de instalación de varias apps y dijo a The Verge que Doni, Dora, Jovia, Kira, Nalo y Romi estaban conectadas. Las aplicaciones compartían código, una misma arquitectura de servidores y varias APIs en común.
Tate Jarrow, fundador de la app antifraude Jacana y exagente de cibercrimen del Servicio Secreto de Estados Unidos, explicó que los estafadores sofisticados gestionan la operación como un negocio, prestan atención a los ingresos y los costos y aprovechan cualquier herramienta que les dé eficiencia.
El caso expone el límite de la automatización. La IA abarató la parte costosa de sostener miles de conversaciones simultáneas, pero no eliminó a los humanos en las videollamadas, el paso que servía para verificar la identidad.
Anthropic dice que interrumpió la operación al banear las cuentas, compartir lo aprendido con socios de la industria y reportar las apps a Apple y Google. Varias apps dejaron de estar disponibles en las tiendas, aunque algunas seguían ahí a mediados de septiembre, según The Verge.
Para el usuario, la alerta es concreta: una app que cobra monedas por cada mensaje y evita aclarar qué perfiles corresponden a personas reales merece desconfianza. El mismo modelo que podía sostener una charla las 24 horas terminó funcionando como motor de un fraude a escala industrial.
