Пользователи стартовали отменять подписки на Claude из‑за водяных знаков в сгенерированном контенте

Некоторые пользователи Claude стартовали отменять платные подписки после того, как Anthropic внедрила незаметные для человека водяные знаки в контент, созданный или обработанный нейросетью, в том числе текст. Об этом пишет Business Insider со ссылкой на сообщения пользователей.

Вотермарки появились в новых версиях Claude 2 августа и представляют собой определённый статистический паттерн, встроенный непосредственно в текст. Он формируется за счёт небольшого изменения выбора слов во время генерации, следовательно визуально текст от обычного не отличается. При этом метка останется в тексте после копирования, вставки и даже небольшого редактирования, говорят в Anthropic.

Организация внедрила систему в том числе для соблюдения требований статьи 50 Закона ЕС об искусственном интеллекте, которая предусматривает функция машинного определения контента, созданного ИИ. Anthropic в будущем планирует выпустить программный интерфейс для проверки наличия водяного знака.

Некоторые пользователи высказали недовольство нововведением. Они опасаются, что метка будет раскрывать факт использования Claude в профессиональной или академической работе даже после значительной доработки текста. В разговоре с Business Insider авторы, консультанты и исследователи заявили, что не хотят, чтобы материалы, над которыми они работали с помощью Claude, автоматически маркировались как созданные ИИ. Некоторые из них сообщили о переходе на другие инструменты, в том числе Cursor и Grok.

При этом Anthropic утверждает, что водяной знак не указывает на конкретного пользователя и не означает, что весь текст был написан ИИ. Он лишь позволяет определить, что контент был создан или обработан Claude. Компания равным образом заявляет, что технология не должна ухудшать качество текста.

Впрочем, в Anthropic пока не фиксируют заметного роста числа отмен подписок. Business Insider пока сообщает лишь о десятках пользователей, которые заявили об отказе от платной версии Claude именно из‑за новой системы маркировки.