В ЕС введут штрафы до 15 млн евро за публикацию нейрослопа без маркировки

OpenAI объявила, что добавит в генерации текста ChatGPT и Codex невидимые водяные знаки. Мы с вами их не заметим. Особый механизм меняет статистику набора слов, для того чтобы детектор вотермарок смог определить наличие меток в тексте.

Нововведение затронет только пользователей в ЕС, а пользователи из СНГ, если они ментально не в Нидерландах (ну вы поняли), могут выдохнуть. OpenAI не уточняет, как именно определяет пользователей из ЕС. А разработчики на программный оболочку по всему миру смогут включить метки по желанию.

Почему OpenAI стартовал с ЕС, а не Америки

Причина в законе. Техника называется — textGrain. Ее раскатывают в ЕС в связи с европейского закона об искусственном интеллекте — EU AI Act. Документ был принят в 2024 году, является комплексным нормативно-правовым актом Европейского союза, который устанавливает единые правовые рамки для разработки, внедрения и использования систем искусственного интеллекта. Он действует и за пределами ЕС для всех компаний, чьи ИИ-решения влияют на граждан и резидентов союза.

Материал 50 этого акта, вступившая в силу 2 августа 2026 года, требует от поставщиков ИИ-систем обеспечивать машиночитаемую маркировку синтетического контента (текста, изображений, аудио и видео). За нарушение грозит штраф до 15 млн евро или до 3% годового мирового оборота, смотря что больше. Под это требование подпадает OpenAI, отсюда и анонс запуска textGrain.

Детектор не безошибочен. При доле ложных срабатываний 1% он находит метку приблизительно в 80% отрывков по 200 токенов и в 95% отрывков по 400 токенов, если речь о текстах вроде психологических. Текст по математике имеет более низкие показатели детектирования в связи с меньшего разнообразия слов.

Если текст редактируется, точность детектирования снижается. После замены 10% текста синонимами, доля обнаруженных вотермарок снижается примерно на 25%. Если заменить четверть слов, точность детектирования снижается до 7–15% зависимо от величины текста. 

Итого пользователи получат метки, которые не обнаружишь визуально. Но их легко обойти: немного переписать текст, и шанс обнаружения метоктает на глазах и нивелирует риски для пользователя. 

Телекран — в каждый дом, textGrain — в каждую схема

Такой слоган мог бы быть в параллельной вселенной. В нашей же все проще, OpenAI пока не собирается превращать textGain в универсальный детектор ИИ. Для начала доступ к детектору выдадут одобренным экспертам и организациям. Потом вотермарки внедрят по всей территории ЕС для всех тарифов ChatGPT и Codex. Пользователи со всего мира могут добровольно активировать метки, если они используют OpenAI api. По умолчанию опция выключена и не будет навязываться.

Отдельно отмечается, что результат проверки нельзя считать доказательством, что текст полностью написан благодаря ИИ. Вотермарки не скажут, сколько именно процентов текста человек написал самостоятельно, и не раскроют, с какого аккаунта был отправлен запрос. textGain равным образом не влияет на качество материала.

В OpenAI утверждают, что внедрение меток практически никак не влияет на качество ответов. Сравнивали результаты генерации по нескольким тестам на версиях топовой Astra с вотермаркой и без. Результаты действительно почти аналогичные, но чудесным образом релиз с метками оказалась немного лучше почти по всем тестам. 

Вотермарки для галочки, или альфа-тест новых технологий контроля

OpenAI может делать вид, что вовсю стремится соблюдать законы ЕС, но неохотно раскатывать технологии. Пока textGrain ощущается как пилотный прототип системы маркирования ИИ-контента, а не как полноценная техника для вычисления следа ИИ.

Если потребитель изменит последовательность слов, или заменит их на близкие по смыслу слова, детектор из точной машины станет скептиком, что для такой системы губительно. Поможет ли это в обнаружении нейрослопа в интернете? Делитесь мнением в комментариях.

ИИ‑роутер — доступ к 300+ моделям из одной панели

Подключите OpenAI‑совместимый шлюз по единому api‑ключу. Настраивайте сквозную аналитику, отслеживайте лимиты и квотируйте ресурсы.

Запустить ИИ‑роутер →