Статьи

Цифровой тоталитаризм: как Facebook дирижирует свободой мнений

Цифровой тоталитаризм: как Facebook дирижирует свободой мнений

Facebook запретил говорить о сексе, и эта новость из мира "свободного интернета" стала одной из самых обсуждаемых. Раньше на сервисе уже была запрещена порнография и эротика, а теперь компания будет блокировать людей за навязчивое поведение, предложения сексуального характера, проституцию, поиск клиентов и даже за намеки на секс. Не только в публичном пространстве, но и в личной переписке. Казалось бы, такие новости должны радовать, ведь это делается во благо. До боли знакомая ситуация, когда под видом защиты граждан или пользователей забирают часть свободы и личного пространства. Сергей Харламов рассказывает, почему заговорили о цифровом тоталитаризме и чем недоволен основатель интернета. 

Вынужденная монополия

Если взглянуть на складывающуюся ситуацию под иным углом, становится некомфортно: Facebook — гигантская технологическая компания, клиентами которой являются 2,5 миллиарда человек, при этом она управляется представителями одного государства и, что самое важное, является частной компанией. Это значит, что она имеет полное право продвигать свои ценности, декларировать условия распространения контента и распоряжаться всем, что попадает в ее юрисдикцию.

Марк Цукерберг

Facebook воспользовался ситуацией навязанного пользовательского соглашения. Чтобы иметь доступ к услугам компании, нужно принять их правила игры, поставив галочку под договором. Казалось бы, все бесплатно. Но не все так просто.

"Левизна" руководителей Facebook — секрет Полишинеля. Компания не раз попадала в скандалы, связанные с тем, что она отдает предпочтение леволиберальным источникам, модераторы буквально вручную меняют ленты новостей сотням тысяч людей так, чтобы новости из "доверенного" списка источников показывались чаще.

В 2017 году изданию The Guardian удалось ознакомиться с сотнями презентаций и гайдов для сотрудников и модераторов сети по тому, как нужно управлять контентом. Тысячи страниц рассказывали, как нужно реагировать на миллионы жалоб пользователей на те или иные материалы. Тогда журналисты не увидели ничего плохого в гайдах: они действительно составлены так, чтобы снизить количество угроз, убрать оскорбления и т.д. Но 10 тысяч модераторов — люди со своей гражданской позицией, а когда у них есть всего 10 секунд по регламенту на просмотр спорного контента, говорить об объективности не приходится.

Британский журналист устроился модератором на Facebook и несколько недель снимал процесс обучения и стиль работы компании, выяснив, что у модераторов не хватает времени на проверку всех жалоб, а у "популярных" страниц особые условия модерации.

Парадоксально, но именно леволиберальная мысль, та, что про свободу слова и защиту меньшинств, в своем радикальном образе превращается в цифровое пуританство, где корпорации вынуждены запрещать все, чтобы не терпеть постоянные нападки со стороны правозащитных организаций. И это еще не касается различий в законодательствах разных стран, разных взглядах на одни и те же вещи — "начальству" соцсетей приходится учитывать даже такие моменты.

Главная причина, по которой они идут на поводу у не самых демократичных режимов, у разъяренных меньшинств, у общественных организаций — деньги. Бизнес Facebook устроен так, что он значительно растет только благодаря количественному расширению доступа. Продажа пользовательской информации рекламодателям — единственный способ заработка соцсети. И чем больше рынков компания откроет, чем богаче станет. Что поделать, если какой-то восточный авторитарный режим хочет подсматривать за парой десятков оппозиционеров в обмен на доступ в страну – главное, рынок!

Неприглядная переписка

На днях член парламента Великобритании Дэмиен Коллинс опубликовал 200 страниц внутренних документов и рабочих переписок сотрудников Facebook. Коллинс уже давно ведет борьбу с соцсетью, когда стало известно, что консалтинговая компания Cambridge Analitica незаконно получила доступ к личной информации о 87 миллионах пользователей сети.

Дэмиен Коллинс, депутат Палаты общин

Забавно, что документы эти были получены как бы случайно — в ходе следственных действий в отношении компании Six4three, которая судилась с Facebook в калифорнийском суде. При этом сам сотрудник Six4three, находившийся с папкой документов в отеле в Лондоне, не должен был иметь к ним доступ. За две недели до этого Facebook предупреждал об опасности утечки внутренних документов и призывал не принимать сказанное в них без контекста.

Документы включают переписку 2012-2015 годов. Там обсуждалась возможность предоставления доступа к закрытым данным пользователей по платной подписке для сторонних разработчиков. Сотрудники Facebook пытались скрыть от владельцев Android, что будут собирать информацию определенного типа. Они нашли способ не показывать предупреждающее окно о доступе к истории звонков и СМС.

Также выяснилось, что Facebook развил VPN-сервис Onavo для слежки за конкурентами. Когда те к нему подключались, в Facebook завладевали информацией, которая позволяла им принимать бизнес-решения. Таким образом в 2013 году был куплен Whatsapp.

Скрин письма Цукерберга, где он разрешает сотрудникам закрыть API Facebook для продукта конкурента Twitter под названием Vine. Через год Vine закрылся

Ковровые баны

Странно принимать оправдания представителей Facebook по поводу этих документов, мол, без контекста их воспринимать нельзя, когда сами же модераторы Facebook предвзято относятся к политическим публикациям. С конца 2013 г. в соцсети нельзя использовать в постах слова "укр", "хохол", "свидомный", "москаль", "кацап", "негр" и так далее. На комментарии подобная практика все еще не распространяется.

В результате этого за пять лет множество раз были забанены популярные политические аккаунты и странички российских и украинских политических деятелей. При этом сложно сказать, насколько эффективной оказалась эта мера в снижении градуса накала — сегодня у людей почти всегда есть альтернативная платформа, где активист может пожаловаться на несправедливость и продолжить публикации.

Систему модерации ругают за избирательность. Бан "прилетает" пользователю по сложной цепочке. Сначала на пост должны пожаловаться органичные пользователи, а не боты, их должно быть определенное количество, а жалобы должны поступать с определенной интенсивностью, пропорциональной охвату публикации. Затем ее отсматривает живой человек, у которого всего десять секунд на принятие решения о том, в каком контексте употреблено слово "хохол". Конечно, вчитываться никто не будет, да и проблематично употребить это слово как-то иначе, кроме как негативно, считают в соцсети.

Пользователь возмущается тем, что его забанили за слово "хохол", и его возмущение заново забанили

В результате соцсеть банит людей за сочувственные посты и слова "несчастные хохлы", а также за цитаты Марка Твена про негров, определения из словаря Даля, фразы из произведений Гоголя. Марк Твен на самом деле был сторонником рабства в США и допускал в адрес афроамериканцев нелестные высказывания, однако в России слово "негр" никогда не несло негативного окраса, связанного с рабской историей на территории США.

Очередь СМИ

Банами дело не ограничивается. Многие российские СМИ столкнулись в Facebook с проблемой понижения охватов и просмотров статей. Еще в 2016 году консервативные американские издания жаловались на "блэклистинг": компания из личных убеждений создала списки групп и СМИ, приоритет которых понижался в новостной ленте. Под технологическую цензуру попали такие неоконсервативные издания, как World Star Hip Hop, The Blaze, Breitbart и The Federalist.

В начале 2018 года очередь дошла и до российских СМИ. Вместе с запланированными изменениями в алгоритмах под видом "предпочтения публикаций семьи и друзей" Facebook снизила ценность новостных публикаций. В некоторых случаях охват СМИ снижался до 60-70%.

Цукерберг в Сенате США

На это у Facebook есть картбланш от американских представителей власти. Весь 2017 год руководители многих технологических компаний, в том числе и Марк Цукерберг, публично допрашивались сенаторами. Последних интересовало, как компании борются с российским вмешательством в выборы. Выборы прошли, а борьба осталась.

Суть этих атак такова, что в России есть люди, работа которых заключается в том, чтобы воспользоваться нашей системой и другими системами в интернете. Так что это гонка вооружений. У них будет получаться это все лучше, и нам нужно вкладывать средства в то, чтобы у нас это получалось лучше, — говорил Цукерберг сенаторам.

Новый ничей интернет

Facebook — монополист в своей области. У подавляющего большинства стран нет достаточно популярных национальных соцсетей, чтобы конкурировать с американским гигантом даже внутри страны. Своими проектами могут похвастаться разве что Россия, Китай и Япония.

В начале декабря озабоченность выразил и глава Минкомсвязи Константин Носков. Он назвал сложившееся монопольное положение "цифровым тоталитаризмом":

У нас на сегодняшний день Google или Facebook как корпорации строят "цифровой тоталитаризм", но уже не в масштабах страны, а в масштабах всего мира. И, может, это не так заметно в России, потому что у нас есть "Яндекс", есть Mail.Ru Group, которые имеют поисковики, соцсети и набор других продуктов.

Возможно, Носков отреагировал на высказывание "отца интернета" — создателя первого гипертекстового проекта, из которого появился интернет в современном понимании. Тим Бернерс-Ли еще в конце октября заявил, что сожалеет о том, во что превратилось его "творение".

Задуманный свободным, интернет в результате конкуренции оказался поделен между крупными компаниями, которые закрыли доступ к общению и передаче информации от пользователя к пользователю с помощью соглашений и договоров о продаже этой информации третьим лицам, сетует ученый.

Проект Тима Бернерса-Ли Inrupt

Бернерс-Ли сейчас работает над децентрализованным интернет-проектом, который не будет никому принадлежать, а информация будет храниться у всех и ни у кого одновременно. Деталей мало, но архитектура похожа на блокчейн-технологию.

Несмотря на большое количество сторонников идеи, проект вряд ли ждет глобальный успех. Как показывает практика, люди не покидают сервисы даже после крупных утечек их собственных данных, привыкая к интерфейсам, которые могут быть нелогичными, небезопасными, неудобными. Вопрос лишь в том, как будет развиваться конкуренция дальше: сражаться будут за лучший дизайн и удобство или за право распоряжаться данными вашей карточки?