Anthropic раскрыла сеть из дейтинговых приложений с ИИ‑персонажами, работающими на Claude

Anthropic раскрыла детали масштабной мошеннической сети (инициатива получил кодовое имя GTG-15001) из дейтинг‑приложений, построенной на базе нескольких ИИ-систем. Студия из Китая развернула более 20 мобильных приложений для знакомств, где 75% всех «мэтчей» создавались не людьми, а ИИ‑персонажами, работающими на базе Claude.

«Авторы этой сети использовали Claude для масштабирования деятельности, поддерживая непрерывное общение от лица тысяч различных персонажей. Реальные люди и модели других провайдеров обеспечивали выполнение узкоспециализированных задач: трансляцию живого видео, реальные ответные действия, быстрые подсказки для отправки сообщений в одно касание (с функцией автодополнения) и обработку изображений», — пояснили в Anthropic.

Фактически это был гибридный людской и ИИ-конвейер из нескольких компонентов и слоёв управления. В частности, за две недели апреля 2026 года в рамках развития этого проекта только Claude сгенерировал более 4,7 тыс. уникальных женских персонажей и разработал приблизительно 2,36 млн сообщений как минимум с 25 тыс. пользователями. Один ИИ‑профиль в среднем общался с пятью разными пользователями. Промпты в проекте запрещали ИИ-персонажам признаваться в том, что они автоматизированы. Равным образом ИИ нужно было всегда уклоняться от любых просьб с предоставлением видео или фото.

Для наполнения живым контентом в проекте были задействованы фрилансеры, которые составляли приблизительно четверти профилей. Эти реальные люди также по указанию организаторов проходили нужные проверки на «подлинность» у обычных пользователей в приложениях GTG-15001, которые ИИ не может имитировать. Например, если нужно было организовать живой видеозвонок с пользователем и оставить фактический отзыв в соцсетях.

Причём фрилансеры не выполняли все задания самостоятельно. Дополнительные ИИ-модели подсказывали людям три варианта нужных ответов на выбор, отдельно занимались оценкой привлекательности фотографий, а также генерировали привлекательные аватары для поддельных персонажей.

Проект после активного развития с помощью ИИ перешёл на монетизацию через внутренние кредиты, которые настоящие пользователи покупали за реальные деньги. Работникам-фрилансерам в этом мошенничестве платили за каждое сообщение, видеозвонок и подписку в соцсетях.

Примечательно, что команда разработчиков этого проекта готовилась к проверкам от магазинов разных платформ. В мобильных приложениях проекта был секретный режим, который активировался только во время ревью в App Store или Play Store, а после одобрения отключался. Также встроенный браузер для платежей в приложениях перенаправлял средства сторонним процессингам. В частности, эту функцию авторы удалённо отключали на время проверки в магазинах приложений.

В Anthropic заявили что подобная масштабная модель получилось очень экономичной для разработчиков, которым не нужно было нанимать сотню операторов, так как Claude поддерживал тысячи диалогов одновременно. Практически в этом проекте настоящие люди подключались только для верификации и заверения настоящих пользователей с деньгами, что этот инициатива реальный. Такой способ развития проекта позволил снизить маржинальную стоимость каждого нового поддельного персонажа и позволил масштабировать проект до десятков тысяч пользователей без необходимости увеличения команд для поддержки приложений.

В итоге Anthropic заблокировала аккаунты китайской студии и зафиксировала информация по инфраструктуре организаторов. В американской компании передали индикаторы проекта для принятия оперативных мер напрямую в Apple, а Google и в другие ИИ‑компании, чьи модели дополнительно использовались в схеме обмана. Среди некоторых наименований из этого проекта фигурируют такие: DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO, LOVIA.