TikTok проводил эксперименты с неработающими версиями функций безопасности

По данным иска штата Нью‑Йорк к TikTok, организация провела эксперимент на тысячах пользователей, пытавшихся включить функцию безопасности: им предоставлялись нерабочие версии этого инструмента.

В ходе так называемых «призрачных» экспериментов (или экспериментов с эффектом плацебо) TikTok отбирал тысячи пользователей — в том числе детей и подростков, — решивших воспользоваться такими функциями безопасности, как «Algo Refresh» (средство для сброса рекомендаций, предназначенный для тех, кто хочет оградить себя от нежелательного или потенциально вредного контента). Как утверждается в иске, эти пользователи полагали, что активировали функцию, тем не менее их ленты не менялись — в отличие от лент тех, кто получил полностью рабочую версию. 

Обнародованные сведения являются частью иска, поданного генеральным прокурором штата Нью‑Йорк Летицией Джеймс; это одно из более чем двух десятков судебных разбирательств, инициированных властями штатов, которые обвиняют TikTok в намеренном проектировании платформы так, чтобы вызывать у детей зависимость, а также во введении пользователей в заблуждение по сравнению с безопасности сервиса. Многие документы по делам, рассматриваемым в разных штатах, были засекречены или подвергнуты значительной цензуре, поскольку TikTok стремится скрыть от общественности подробности своей деятельности.

В соответствии с иску, TikTok заверяет пользователей в том, что безопасность является главным приоритетом, а платформа подходит для детей и подростков, но при этом компания сознательно ограничивает доступ определённых групп к некоторым инструментам защиты — в частности, тех, кто целенаправленно пытался избежать нежелательного или потенциально вредного контента. 

«Мы постоянно совершенствуем нашу платформу, а это означает, что, как и большинство компаний, мы регулярно тестируем новые продукты и функции, чтобы проверить пользовательский опыт и понять, как они работают в реальных условиях», — заявил представитель TikTok. Компания категорически отвергла обвинения штата Нью‑Йорк и ​​заявила, что обеспечение безопасности юных пользователей является для неё приоритетной задачей.

В сентябре TikTok урегулировал начальный иск штата, дошедший до стадии судебного разбирательства, согласившись выплатить Алабаме до $300 млн и изменить принципы работы платформы для подростков в этом штате.

В жалобе штата Нью‑Йорк содержатся утверждения, что менеджер по продукту TikTok, отвечающий за направление «цифрового благополучия» (Digital Well Being), во внутренней переписке отмечал проблему с проведением плацебо‑тестирования функции «Algo Refresh». «Суть этой функции — в прозрачности алгоритма и возможности управления им, — писал сотрудник во внутреннем чате. — Использование контрольной группы, получающей „плацебо“, полностью противоречит этой идее».

В итоге организация все же неоднократно проводила такие тесты на тысячах пользователей в 2023 году, сравнивая тех, у кого функция была доступна, с теми, у кого её не было, чтобы оценить время пребывания на платформе и влияние на доходы от рекламы.

Также в иске утверждается, что TikTok вводил потребителей в заблуждение по сравнению с принципа работы «Algo Refresh», заявляя, что функция сбрасывает алгоритм рекомендаций видео, хотя на самом деле изменения носили лишь временный характер. Представитель TikTok объявил, что эти утверждения неверно описывают работу функции «Algo Refresh».

В обнародованных материалах говорится, что TikTok проводил отдельную серию экспериментов, о которых ранее сообщало агентство Bloomberg. В ходе этих тестов компания случайным образом отбирала пользователей и отключала в их аккаунтах функции безопасности, ограничивающие доступ к вредоносному контенту. По данным Bloomberg, один из участников эксперимента — подросток из Нью‑Йорка — покончил с собой после того, как ему был показан контент, связанный с членовредительством и суицидом.

Между тем Еврокомиссия заявляла, что дизайн TikTok нарушает требования закона о цифровых услугах (DSA). Речь идет о функциях, которые, по мнению регуляторов, намеренно усиливают вовлечённость и формируют зависимость у пользователей. Под претензии попали сразу несколько ключевых элементов продукта. В их числе бесконечная прокрутка ленты, агрессивно персонализированные рекомендации и платформа push‑уведомлений, которые стимулируют пользователя возвращаться в приложение снова и снова. Компании может грозить штраф до 6% от глобальной годовой выручки, а также обязательство изменить продуктовый дизайн в Европе.