Соцсетям предложили превентивно блокировать резонансные дипфейки

Основной радиочастотный центр Роскомнадзора (ГРЧЦ) предложил соцсетям самим превентивно выявлять и блокировать резонансные дипфейки до проверки достоверности информации. Об этом рассказал заместитель начальника отдела специальных проектов и академических программ Научно‑технического центра ФГУП ГРЧЦ Станислав Махортов.

«В частности, реализовать на законодательном уровне инициативу контроля и блокировки сообщений, которые приобретают широкую популярность в моменте. У них распространение идет со скоростью большей, чем у инфоповодов, даже если последние обладают статусом „горячих“», — отметил Махортов. Среди других предложений, о которых он сообщил, создание базы технологических угроз для просвещения населения и технологических решений для обмена информацией между ведомствами и бизнесом, а также введение маркировки сгенерированного контента до его распространения.

В Роскомнадзоре пояснили «Ъ», что регулирование дипфейков должно основываться на понятных, открытых и реализуемых возможностях их оперативного выявления и прекращения распространения. «Как один из вариантов реализации — собственная возможность социальных сетей контролировать быстрое распространение у них того или иного контента». Одновременно соцсети должны иметь право приостановить распространение материала до проверки достоверности информации у доверенного источника, в том числе лица или организации, фигурирующих в контенте, добавили в службе.

Собеседник «Ъ» в крупной IT‑компании отметил, что на текущем количестве видеороликов и изображений в соцсетях нет технической возможности определять, какой контент создан при помощи ИИ. VK, Rutube и «Яндекс» отказались от комментариев.

Требуется большая детализация и экспертиза от регулятора, чтобы определять, что относится к запрещённому или требующему маркировки контенту, на примере конкретных кейсов, сообщает гендиректор компании «Социальная лаборатория» Наталия Тылевич. Запрещать сами технологии непродуктивно. В ручном режиме решить задачу сложно, следовательно потребуется применение ИИ. Потенциал создания системы по выявлению такого контента на базе существующих решений есть, но целиком автоматизировать процедура не получится, полагает она.

ИИ‑контент и дипфейки можно распознавать через комбинацию методов: анализ изображения, видео или аудио, поиск цифровых водяных знаков, проверку метаданных и поведенческий аналитика массового распространения, сообщает партнёр инвестиционно‑технологической компании Zarya Ventures Александр Пономарев. «Точность в существующих реалиях далека от 100%: современные генеративные модели быстро обходят детекторы, а реальные фото и видео могут ошибочно попадать под блокировку», — внедрил он. Реалистичным сценарием эксперт называет создание гибридной системы с применением ИИ‑фильтров, маркировкой подозрительного контента и ручной верификацией.