Общество

Эксперты: будущее рекомендательных алгоритмов - за прозрачностью

1.2k
Эксперты: будущее рекомендательных алгоритмов - за прозрачностью

На площадке АНО "Диалог" эксперты обсудили публичность рекомендательных алгоритмов российских интернет-сервисов, их грядущее нормативно-правовое регулирование, а также международный опыт.

По мнению экспертов, особые опасения вызывают рекомендательные алгоритмы иностранных социальных сетей и видеохостингов. Например, летом 2021 года американские исследователи обнаружили, что рекомендательные алгоритмы YouTube предлагают пользователям видеоролики, которые нарушают собственные правила онлайн-площадки: нежелательный контент, подобранный искусственным интеллектом, составил 71% от общего количества просмотренных участниками эксперимента видео. 

Исследование РОЦИТ, проведенное в ноябре 2021 года, кстати, показало, что большая часть россиян (74%) хотели бы иметь возможность отключать подобные рекомендательные сервисы.

"Такая возможность есть не на всех сервисах. Мы сегодня не понимаем прозрачности рекомендательных сервисов. К сожалению, есть опасность их использования в политических манипуляциях, в информационных войнах. Особенно это касается больших платформ", - отметил заместитель председателя комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин.

Он также анонсировал законопроект, который поможет сделать рекомендательные алгоритмы социальных сетей и видеохостингов прозрачными. Среди основных его положений: обязанность соцсетей и видеохостингов публиковать механизмы работы рекомендательных сервисов, в том числе меры, которые уберегут детей от нерелевантного контента, обязанность информировать пользователя об обработке персданных и возможность отказа пользователя от такой обработки.

Эксперты отметили, что российский законопроект находится в мировом тренде: в Китае, США и ЕС также предпринимаются законодательные меры по опрозрачиванию работы рекомендательных алгоритмов.

"В принципе это уже данность - регулирование механизмов, алгоритмов выдачи рекомендательных систем. Эта та данность, которая есть. С 1 марта Китай принял достаточно такой радикальный закон, как обычно в Китае, закон на тему того, что все: с данного момента или декларируй, или уйди с рынка буквально. Вопрос опять же в степени декларации того, что нужно показывать. В Америке, насколько я понимаю, несколько законопроектов и на уровне штатов, и на федеральном уровне рассматриваются. Да и ЕС активно дискутирует и обсуждает эту тему. Поэтому, я так понимаю, вы со своей инициативой абсолютно как обычно находитесь в тренде мировом в этом отношении", - отметил Алексей Гореславский, генеральный директор Института развития интернета.


Кстати, на прошедшем мероприятии компания Ozon раскрыла основные принципы работы своих рекомендательных алгоритмов, опубликовав их в открытом доступе.

"Регулирование — это очень важно. Что касается регулирования IT-сектора, который наиболее чувствителен к любым регуляциям (мы все видим, как в Китае несколькими решениями фактически очень серьезно регуляторно загрузили IT-сферу): очень радует, что вы идете на открытый диалог с отраслью", - отметил Алексей Минаев, заместитель управляющего директора Ozon.

Антон Горелкин отметил, что социальную ответственность проявляют не только маркетплейсы. Несмотря на то, что аудиовизуальные сервисы тоже не подпадают под действие готовящегося законодательства, в ближайшее время они добровольно планируют сделать шаг по направлению к прозрачности рекомендательных сервисов, подписав соответствующий меморандум.

*Владеющая соцсетью корпорация Meta* признана экстремистской и запрещена на территории РФ.

  • * экстремистская организация, запрещенная на территории России