Anthropic: DeepSeek и Moonshot выдавали ответы Claude за ответы собственных моделей

Китайские ИИ‑компании DeepSeek и Moonshot, по данным Anthropic, использовали Claude для обработки запросов пользователей, а затем выдавали полученные ответы за результаты работы собственных моделей.

В Anthropic утверждают, что Moonshot перенаправляла запросы пользователей в Claude, хотя те считали, что общаются с моделями семейства Kimi. В одном из обнаруженных эпизодов компания за 10 дней отправила в Claude почти 300 тысяч пользовательских запросов.

Для этого Moonshot использовала сеть из 5380 фиктивных аккаунтов. Большинство из них были зарегистрированы в Сингапуре и Японии — итак организация обходила ограничения Anthropic на доступ к Claude.

При этом Moonshot, как утверждает Anthropic, сохраняла как минимум часть перенаправленных диалогов. Из них организация извлекала цепочки рассуждений Claude и могла использовать их для обучения собственных моделей.

Anthropic заявляет, что похожую схему применяла и DeepSeek.

Особенно серьезной проблемой стало содержание самих запросов. По данным расследования, среди них встречалась конфиденциальная информация о клиентах китайских компаний. При этом Anthropic не удалось установить, предупреждали ли пользователей о том, что их запросы фактически передаются сторонней нейросети.

Если выводы Anthropic верны, китайские компании могли одновременно получать доступ к возможностям Claude и использовать результаты его работы для совершенствования собственных ИИ‑моделей.