Для рекомендательной ленты несколько секунд просмотра могут стать сигналом сильнее прямого отказа пользователя.
Именно это расхождение Еврокомиссия поставила в центр предварительных выводов о разделе Para ti. По оценке Комиссии, TikTok может учитывать время просмотра так, что после нажатия «No me interesa» пользователю все равно предлагают похожие ролики. Пока это предварительная позиция регулятора, окончательного решения о нарушении нет.
Как просмотр влияет на рекомендации
Алгоритм использует сигналы активности, в том числе время, проведенное за видео, и реакции пользователя. Если система считает определенные взаимодействия признаком интереса, она может продолжить показывать похожие материалы. Комиссия опасается, что повторение чувствительного контента способно сформировать замкнутую последовательность рекомендаций.
В качестве примеров названы ролики о грусти и изоляции. Отдельно рассматривается контент об образе тела. Особое внимание уделено несовершеннолетним и уязвимым взрослым: речь идет о возможном влиянии системы на их благополучие, а не о диагнозе пользователям. Вирккунен и Макграт также подчеркивали, что крупные платформы обязаны обеспечивать несовершеннолетним высокий уровень защиты, включая приватность и безопасность. В выступлении Комиссии отдельно говорилось, что в рамках DSA несовершеннолетним нельзя персонализировать рекомендации.
Комиссия также проверяет, насколько действенны настройки для изменения ленты. По предварительной оценке, явное предпочтение пользователя может уступать времени просмотра, а меры по разнообразию рекомендаций могут недостаточно снижать риск. Сам факт наличия кнопки еще не доказывает, что она на практике меняет работу сервиса.
Какие требования предъявляет европейский регламент
Регламент о цифровых услугах требует объяснять основные параметры рекомендательных систем и способы их изменения. Статья 27 предусматривает возможность выбрать и поменять способ сортировки через легко доступную функцию. Для крупнейших платформ статья 38 требует предложить хотя бы один вариант рекомендаций без профилирования.
Отдельно статьи 34 и 35 обязывают крупные платформы оценивать системные риски и принимать разумные и эффективные меры. Еврокомиссия разъясняет, что статья 35 требует оценивать и снижать системные риски, в том числе связанные с общественными процессами, при соблюдении фундаментальных прав: свободы выражения мнений и получения информации. Среди возможных изменений Комиссия называет больший вес явно выраженных предпочтений. Еще одно предложение касается времени просмотра: его следует исключить из сигналов для рекомендаций. Комиссия также предлагает сделать настройки доступнее и регулярно проверять алгоритм.
В обсуждении дизайна онлайн-сервисов Еврокомиссия отдельно выделила бесконечную прокрутку и автоматическое воспроизведение. Уведомления, не связанные с конкретным действием пользователя, она рассмотрела отдельно. Для взрослых Комиссия описала подход, при котором такие функции можно отключить; для несовершеннолетних речь идет о более строгих ограничениях. Вирккунен также заявляла, что пользователям следует дать возможность выключать бесконечную прокрутку и автозапуск видео.
Испанское расследование о защите детей на платформе затрагивало отдельный аспект, вмешательство прокуратуры. Об этом сообщалось в материале о проверке TikTok. Нынешнее дело Еврокомиссии касается устройства рекомендательной ленты и выполнения требований Регламента о цифровых услугах.
Решение пока зависит от ответа TikTok
Готовя предварительные выводы, Комиссия изучила внутренние документы TikTok и данные, собранные при оценке рисков, а также ответы компании на запросы. В работе использовали научные исследования и консультации специалистов по системам рекомендаций и психологии, в том числе психиатров. Работу поддержал ирландский координатор цифровых услуг.
Ранее Еврокомиссия публиковала выводы о дизайне TikTok в феврале, а в июле - о защите несовершеннолетних. По нынешней оценке компания может ознакомиться с материалами дела и направить письменный ответ. Если выводы подтвердятся, Комиссия вправе принять решение о нарушении и назначить штраф до 6% годового мирового оборота поставщика. Вирккунен и Макграт также отмечали, что платформы медленно внедряют подготовленные для них рекомендации.
