В мире
Новости Москвы
Политика
Общество
Происшествия
Наука и техника
Шоу-бизнес
Армия
Игры

Эксперты обсудили прозрачность рекомендательных механизмов онлайн-площадок

Эксперты обсудили прозрачность рекомендательных механизмов онлайн-площадок
Фото: Lenta.ruLenta.ru

На площадке АНО «Диалог» состоялся брифинг, посвященный вопросам публичности рекомендательных алгоритмов, применяемых в российских интернет-сервисах. В его рамках интернет-маркетплейс Ozon раскрыл механизмы рекомендательных алгоритмов, применяемых в его работе, а эксперты обсудили готовящееся нормативно-правовое регулирование данных алгоритмов в российской практике и существующий международный опыт.

Видео дня

Эксперты сошлись во мнении, что особые опасения вызывают рекомендательные алгоритмы социальных сетей и видеохостингов, особенно иностранных. Полагаться на надежность и добросовестность их работы не приходится. Например, летом 2021 года американские исследователи обнаружили, что рекомендательные алгоритмы YouTube предлагают пользователям видеоролики, которые нарушают собственные правила онлайн-площадки: нежелательный контент, подобранный искусственным интеллектом, составил 71 процент от общего количества просмотренных участниками эксперимента видео.

По мнению экспертов, за прошедшее время ситуация радикально и очевидно не изменилась. Пользователи продолжают сталкиваться с тем, что лента соцсети может выдать неравноправный и непонятный контент, логика этих рекомендаций неясна и скрывается ИТ-гигантами. При этом исследование РОЦИТ, проведенное в ноябре 2021 года, показало, что большая часть россиян (74 процента) хотела бы иметь возможность отключать подобные рекомендательные сервисы.

«Такая возможность есть не на всех сервисах. Мы сегодня не понимаем прозрачности рекомендательных сервисов. К сожалению, есть опасность их использования в политических манипуляциях, в информационных войнах. Особенно это касается больших платформ. В прошлом году инсайдер из Facebook (владеющая соцсетью корпорация Meta признана экстремистской и запрещена на территории РФ) подробно рассказывала, как устроен рекомендательный сервис этой соцсети, и нас это очень беспокоит», — отметил заместитель председателя комитета по информационной политике, информационным технологиям и связи .

На решение этой проблемы направлен готовящийся в Госдуме законопроект, который поможет сделать рекомендательные алгоритмы социальных сетей и видеохостингов прозрачными. По словам автора законопроекта Антона Горелкина, основной нормативный акт совсем скоро будет представлен на экспертном совете . Среди основных положений — обязанность соцсетей и видеохостингов публиковать механизмы работы рекомендательных сервисов, в том числе меры, которые уберегут детей от нерелевантного контента, обязанность информировать пользователя об обработке персональных данных и возможность отказа пользователя от такой обработки.

«На данный момент законопроект нацелен исключительно на то, чтобы побудить наши сервисы опубличить и создать такую цивилизованную практику, этику работы своих систем, — отметил Антон Горелкин. — Вы знаете, он даже не про регулирование, а именно про прозрачность рекомендательного сервиса, чтобы пользователи понимали, сознавали свои права, понимали, как он работает».

Эксперты отметили, что российский законопроект находится в мировом тренде: в , и также предпринимаются законодательные меры по опрозрачиванию работы рекомендательных алгоритмов.

«В принципе, это уже данность — регулирование механизмов, алгоритмов выдачи рекомендательных систем. Эта та данность, которая есть. С 1 марта Китай принял достаточно такой радикальный закон, как обычно в Китае, закон на тему того, что все — с данного момента или декларируй, или уйди с рынка буквально. Вопрос опять же в степени декларации того, что нужно показывать. В Америке, насколько я понимаю, несколько законопроектов и на уровне штатов, и на федеральном уровне рассматриваются. Да и ЕС активно дискутирует и обсуждает эту тему. Поэтому, я так понимаю, вы со своей инициативой абсолютно, как обычно, находитесь в тренде мировом в этом отношении», — отметил , генеральный директор .

Притом что общий вектор разработки законодательства схож в разных государствах, есть пункты, которые можно было бы включить в российский нормативный акт, — такое мнение высказал , председатель комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России.

При этом если соцсети и видеохостинги, особенно западные, необходимо принуждать к раскрытию своих «черных ящиков», то есть другие интернет-платформы, которые сами проявляют ответственность и идут навстречу регулятору (даже несмотря на то что готовящееся законодательство на них не распространяется). В частности, маркетплейсы — на мероприятии Ozon раскрыл основные принципы работы рекомендательных алгоритмов площадки, они опубликованы в открытом доступе и написаны простым языком.

«Регулирование — это очень важно. Что касается регулирования IT-сектора, который наиболее чувствителен к любым регуляциям (мы все видим, как в Китае несколькими решениями фактически очень серьезно регуляторно загрузили ИТ-сферу), — очень радует, что вы идете на открытый диалог с отраслью», — отметил , заместитель управляющего директора Ozon.

Антон Горелкин отметил, что социальную ответственность проявляют не только маркетплейсы. Несмотря на то что аудиовизуальные сервисы тоже не подпадают под действие готовящегося законодательства, в ближайшее время они добровольно планируют сделать шаг по направлению к прозрачности рекомендательных сервисов, подписав соответствующий меморандум.

«Радует, что те индустрии, те сегменты, которые не попадают под регулирование, проактивно работают, и я уверен, что меморандум будет подписан не только на уровне аудиовизуальных сервисов. Надеюсь, что, после того как Ozon нам сегодня публично представил свою концепцию, и маркетплейсы подключатся и мы также увидим что-то наподобие меморандума», — подчеркнул Антон Горелкин.