США обвинили TikTok в экспериментах над детьми с опасным контентом
Власти Нью-Йорка подали иск, в котором утверждается, что TikTok проводил плацебо-эксперименты, предоставляя части пользователей неработающую версию функции Algo Refresh. Этот инструмент предназначен для сброса алгоритма рекомендаций, чтобы избавиться от нежелательного или потенциально вредного контента. Об этом сообщает издание РБК.
Участники эксперимента полагали, что активировали функцию, но их лента не менялась, в то время как у другой группы, получившей рабочую версию, рекомендации обновлялись. По данным иска, такие испытания проводились в 2023 году на тысячах пользователей, а их поведение сравнивалось для изучения продолжительности пребывания на платформе и влияния на рекламные доходы.
Один из менеджеров TikTok, отвечавших за цифровое благополучие, предупреждал о проблемах с этими испытаниями и возможности введения людей в заблуждение. «Эта функция предназначена для обеспечения прозрачности алгоритма и контроля над ним. Плацебо-группа полностью противоречит этому», — написал сотрудник во внутреннем чате.
Также в материалах дела упоминается другая серия экспериментов, о которой ранее сообщал Bloomberg: компания отключала функции безопасности в аккаунтах случайно выбранных пользователей. По данным Bloomberg, один из подростков из Нью-Йорка покончил с собой после того, как ему показывали материалы о самоповреждении, а внутренняя проверка выявила большое количество такого контента в его ленте.
Иск против TikTok подала генеральный прокурор Нью-Йорка Летиция Джеймс в 2024 году. Нью-Йорк стал одним из более чем двух десятков штатов, обвинивших компанию в создании платформы, вызывающей зависимость у детей. Представитель TikTok заявил Reuters, что обвинения искажают принцип работы Algo Refresh, и отметил, что компания регулярно тестирует новые продукты для оценки пользовательского опыта.
В сентябре 2026 года TikTok урегулировал первый иск американских штатов, согласившись выплатить Алабаме до $300 млн и изменить работу платформы для подростков. Ранее компания и ByteDance выплатили $400 млн по делу о нарушении закона о конфиденциальности детей в интернете.
