Исследователи из ETH Zurich совместно с Anthropic показали, что современные модели способны деанонимизировать людей, анализируя только их тексты в интернете.

В эксперименте использовали 338 профилей с форума Hacker News. Из данных заранее удалили прямые идентификаторы, такие как имена и ссылки на соцсети. AI-агент изучал стиль письма, упоминания работы, интересов, географии и другие косвенные детали. На основе этого он формировал вероятный профиль человека: профессию, местоположение, хобби и политические взгляды.

Далее эти характеристики сопоставили с базой из 89 тысяч профилей LinkedIn. В итоге удалось корректно инсталлировать личности приблизительно двух третей пользователей. Похожий итог исследователи получили и при анализе части аккаунтов Reddit.

Авторы подчёркивают, что использовалась исключительно открытая данные. Никакого взлома или утечки данных не было. ГОсновной вывод звучит просто: чем больше человек пишет в сети, тем легче по совокупности деталей инсталлировать, кто он.