Microsoft разработала стандарты, которые помогают распознать манипуляции с цифровым контентом

У Microsoft появился свежий план, как доказать, какой контент в интернете реален, а какой нет. Компания представила набор технических стандартов, которые помогут определить, подвергался ли цифровой контент манипуляциям. Эти стандарты предполагается использовать разработчикам ИИ-инструментов и крупным онлайн‑платформам.

В Microsoft объясняют подход на примере картины Рембрандта, подлинность которой нужно подтвердить документально. Можно проследить её историю владения, собрать информация обо всех перепродажах и перемещениях, а равным образом создать «виртуальный отпечаток» на основе анализа мазков кисти. Тогда любой человек, который сомневается в подлинности экспоната, сможет сопоставить эти информация и убедиться, что перед ним оригинал. С точки зрения компании, похожий принцип можно применить к фото, видео и другим видам контента в сети.

Специалисты Microsoft протестировали приблизительно 60 разных комбинаций методов проверки — метаданные, водяные знаки, криптографические подписи и многое другое. Они смоделировали разные сценарии: от простого удаления служебной информации до частичного редактирования изображения или целенаправленной подмены содержимого. В результате исследователи выделили наборы методов, которые дают надёжный итог.

В компании подчёркивают, что предлагаемые средства не предназначены для определения истинности или ложности информации. Их проблема — показать, был ли статья изменён и откуда он произошёл, то есть дать контекст его появления. Эксперты считают, что если отрасль примет такие инструменты, распространение сфабрикованного контента и обман аудитории станут заметно сложнее.