В России хотят обязать пользователей маркировать контент, созданный ИИ

Маркировка изображений, аудио и видео, созданных с помощью больших моделей ИИ, может стать обязательной вместо добровольной. Это следует из проекта поправок к принятому в июле закону об ИИ и Гражданскому кодексу, пишут «Ведомости». Собеседники издания уточнили, что предлагаемые поправки 19 августа планирует рассмотреть рабочая группа по регулированию и административным барьерам.

Поправки меняют подход, закреплённый в рамочном законе об ИИ, в котором не прописано обязательство маркировать сгенерированный контент. Структура, содержание и порядок размещения предупреждения определит уполномоченный государственный орган. При этом конкретное ведомство не называется. Но формулировка «создан с применением» может охватывать и отредактированные нейросетью материалы, хотя минимальная доля ИИ‑контента в проекте не установлена.

Кто должен маркировать материал, если разработал его один человек, а распространяет иной, тоже не определено. Инициатива не вводит специальной ответственности и не объясняет, кто будет проверять наличие отметки и должна ли она сохраняться при переносе файла между платформами.

В действующей редакции человеку или компании, которые применили большую фундаментальную модель при создании аудио‑ или визуального материала, должны предоставить возможность разместить предупреждение об использовании ИИ.

Крупные сайты, социальные сети и другие платформы с суточной аудиторией более 500 тыс. российских пользователей должны предоставить техническую функция поставить такую отметку, указано в законе. Статья рамочного закона, касающаяся маркировки, должна вступить в силу 1 марта 2027 года. На каком этапе и в каком виде предложенные поправки могут внести в Госдуму, пока не определено. Формат и порядок размещения маркировки сейчас предполагается определять соглашением между пользователем и владельцем ИИ‑сервиса.

Предложения требуют существенной доработки, считает источник «Ведомостей», участвующий в обсуждении поправок. По его мнению, обязательная маркировка не поможет бороться с дипфейками: их создатели продолжат использовать зарубежные сервисы и распространять материалы без отметок. Аналогичным образом пользователи смогут скачивать немаркированные генерации на стриминговые платформы, опасается он. В результате норма усложнит работу с российскими ИИ‑сервисами, но не решит заявленную проблему.

При обсуждении законопроекта об ИИ уже рассматривались разные варианты введения маркировки сгенерированного контента, напомнил директор Института исследований интернета Карен Казарян. Наряду с тем эти нормы преждевременны, считает он. Во всём мире сейчас рассматривают, насколько технологически возможно маркировать контент так, чтобы машиночитаемая метка сохранялась при дальнейших манипуляциях с контентом.

Предлагаемая редакция поправки закона о поддержке ИИ вносит полную неопределённость, так как все существенные решения по маркировке выносятся в подзаконный акт, рассуждает гендиректор ассоциации «Интернет‑видео» Алексей Бырдин. Если уполномоченный орган, то есть Минцифры, по какой‑то причине сочтёт необходимым ввести широкое добавление маркировки контента, созданного генеративным ИИ, это сможет затронуть неограниченный перечень информационных ресурсов, предупреждает он. По мнению эксперта, в части маркировки действующая редакция для старта регулирования оптимальна: только соцсети обязаны предоставить пользователю техническую возможность отмаркировать загруженный контент.

Собеседник «Ведомостей» в крупной технологической компании считает нецелесообразным новое обсуждение обязательной маркировки контента. «На практике это приведёт к абсурдным ситуациям: например, фотографии, обработанные фильтрами в редакторах, формально тоже считаются результатом работы ИИ. Постоянное „тыканье“ маркировкой в таких массовых сценариях лишь ухудшит восприятие ИИ пользователями», — говорит он.

Представитель «Яндекса» заявил, что обучение ИИ‑моделей на правомерно полученной и общедоступной информации не должно признаваться нарушением авторских прав, поскольку модель анализирует массивы данных, а не воспроизводит отдельные произведения. Риски плагиата и избыточного цитирования возникают уже при генерации, следовательно авторы должны снижать их и указывать источники, внедрил он.