Facebook невозможно реформировать
«Мы знаем, что нам предстоит немало работы».
Эту фразу многочисленные представители Facebook повторяли в ответ на кампанию рекламного бойкота #StopHateForProfit («Прекратите ненависть ради выгоды»). Задачей бойкота было давление на компанию, чтобы она нашла способ сдержать язык вражды и дезинформацию. К бойкоту присоединились несколько крупных брендов, в том числе Unilever и Verizon, из-за чего доход Facebook от рекламы может серьезно просесть, что случается очень редко.
Похоже, кампания приносит плоды. 26 июня Facebook объявил, что добавит соответствующие отметки к контенту о голосовании и выборах, а также детализует политику относительно языка вражды. Компания также добавила тег «инфоповод» для враждебной риторики от политических деятелей, которая нарушает правила, но остается разрешенной из-за того, что представляет интерес как новость. Facebook подчеркнул, что все эти меры являются элементом регулярной чистки, которую они проводят. «Мы знаем, что нам предстоит немало работы», – говорится в заявлении.
«Мы Знаем, Что Нам Предстоит Немало Работы» (назовем это МЗЧНПНР) – ключевая фраза во времена соцсетей, которой пользуется руководство компаний всякий раз, когда компания становится объектом общественного недовольства.
Эти семь слов как нельзя лучше отражают оборонительную позицию, в которой Facebook находится, начиная с выборов 2016 года в США. Тогда стало очевидно, что терпимость компании к сообществам, разжигающим ненависть на ее платформах, превратила эти платформы в инструменты намеренного распространения дезинформации и пропаганды.
Эта фраза одновременно и обещание, и уклонение от ответа. Это просьба о доверии, которого компания не заслужила: «Дайте нам время, мы работаем, чтобы изменить все к лучшему». Это также способ пресечь конструктивную критику: «Да, мы знаем, что сейчас предпринимаемых мер недостаточно, но их будет больше».
Как связаны движение «Лишить полицию финансирования» и Facebook
В случае Facebook самое опасное во фразе МЗЧНПНР – то, что при этом умалчиваются глубокие структурные недостатки платформы. Из-за архитектуры соцсети – алгоритма, в котором вовлечение пользователей стоит превыше всего, а предпочтение отдается контенту, вызывающему разногласия и манипулирующему эмоциями, – масштабное производство все большего количества неприятного контента не может прекратиться.
Facebook часто использует это огромное количество контента в соцсети как оправдание бездействия. «Мы добились огромных успехов, – сказал на CNN в прошлое воскресенье Ник Клегг, официальный представитель Facebook. – Но, знаете, в среднем через наши сервисы отправляют 115 млрд сообщений в день, и огромное, подавляющее большинство этих сообщений положительны».
Но аргумент господина Клегга одновременно является признанием: Facebook слишком велик, чтобы им можно было ответственно управлять. Работы всегда будет оставаться немало, потому что из-за самого принципа работы Facebook всегда будет создаваться больше ненависти, чем физически возможно отслеживать. Как это реформировать? Никак.
Мало кто из людей, которые знают Facebook, действительно верят, что Марк Цукерберг закроет компанию либо ослабит хватку над правлением компании, из-за чего подобные разговоры – это скорее размышления, чем реальность
В последнее время на мое мнение о Facebook повлияли два отдельных движения: за упразднение тюрем и лишение полиции финансирования. Здесь речь идет о сложных политических вопросах, но предпосылка этих движений изысканно проста. Раздутые и коррумпированные институты, которые они критикуют, реформировать невозможно. Как недавно написала в своей колонке о лишении полиции финансирования для Times Мариам Каба: «Нам следует изменить требования».
Во избежание недоразумений, хочу уточнить, что точное сравнение Facebook с полицией или пенитенциарной системой невозможно. Как замечает Мариам Каба, современная система работы полиции в США произошла от патрулирования рабов. Происхождение Facebook, разумеется, совершенно другое.
Социальные сети вредны для человека
И все же эти движения дают нам возможность посмотреть на Facebook с новой перспективы. Несмотря на утомительные обсуждения политики модерации контента и постоянные незначительные поправки в правилах Facebook, серьезные проблемы остаются. Все признаки указывают на то, что система не подлежит реформированию.
«Многие люди надеются на новую, человечную соцсеть, которая нас спасет, – соцсеть, которая уважает частную жизнь либо имеет менее навязчивые алгоритмы, – недавно сказал мне Шива Вайдхьянатан, профессор теории массовых коммуникаций Университета Вирджинии. – Но если честно, то, что они предлагают после этого, обычно уже не является соцсетью».
Другими словами, проблема в архитектуре.
«Думаю, соцсети доказали, что они вредны для людей. И не стоит тешить себя иллюзиями, что мы можем исправить или переделать то, что с самого начала являлось плохой идеей», — сказал он.
Ифеома Озома, которая принимала участие в руководстве публичной политикой и социальным воздействием в Pinterest и в разработке публичной политики в Facebook и Google, считает, что несовершенная архитектура Facebook неразрывно связана с ее руководством.
«Мы не добьемся реальных изменений, если будем просто просить об отдельных поверхностных изменениях, – сказала она. – Платформа отражает взгляды людей, которые принимают решения. Если над ней работают люди, которые согласны поддерживать систему белого превосходства или не хотят с ней считаться, такой получится и платформа».
Озома, которая занималась разработкой изменений в политике соцсетей, направленных на ограничение распространения дезинформации медицинского характера и языка вражды, говорит о собственном опыте в Кремниевой долине. Она публично критиковала руководство компаний, владеющих соцсетями, за неравную оплату труда, а недавно прокомментировала, что руководство препятствует работе небелокожих людей за счет «расизма, газлайтинга и неуважения».
«Даже если и придумать структурную реформу платформы, внедрять ее никто не станет, – сказала она. – Руководство Facebook не признает, что то, чем они занимались последние десять лет, неправильно и вредно».
Общественные места предназначены для людей
Мало кто из людей, которые знают Facebook, действительно верят, что Марк Цукерберг закроет компанию либо ослабит хватку над правлением компании, из-за чего подобные разговоры – это скорее размышления, чем реальность.
Но те из нас, кто зависит от капризов владельцев компании, понимают, что так продолжаться не может. Небольшие реформы чрезвычайно важны, но их внедрение подразумевает, что Facebook может и дальше существовать в своей нынешней версии, что предстоит еще немало работы. Facebook реформировать невозможно. Мы должны изменить свои требования.
Кампания #StopHateForProfit относится к таким изменениям, но помимо нее есть и другие. Господин Вайдхьянатан сказал мне, что он думает не столько о том, как контролировать платформы Facebook, сколько о том, как жить в мире, где доминирует Facebook.
Некоторые из этих идей кажутся настолько утопическими, что о них и писать сложно – они слишком просты, слишком невероятны. Но в простоте есть своя элегантность; это видение Интернета, с которым мы на самом деле хотим сосуществовать.
«Пожалуй, нам нужно начинать более радикально размышлять о том, какая информационная экосистема нам нужна, чтобы мы выжили как демократическая республика», – сказал он. Среди его идей некоторые он сам назвал «скучными», но необходимыми, например, инвестирование в библиотеки и государственные школы.
Есть и другие идеи, например, объявить «банкротство платформ». В этом случае платформы обнулили бы всех подписчиков отдельных пользователей и групп, и сообщества строились бы заново с сохранением существующих правил. Идей на эту тему хватает. Как написала в прошлом году моя коллега из Opinion Аннали Невитц: «Нужно прекратить перекладывать ответственность за поддержание общественного пространства на корпорации и алгоритмы и вернуть ее людям».
Слишком утопично, слишком просто?
Я задал вопрос своим подписчикам на Twitter, попросив их поделиться идеями, как улучшить социальные платформы, и за несколько часов получил более 1000 ответов.
Некоторые были простыми: «Разработать иной принцип распространения контента, чем вирусность». Другие – более комплексными: «Обмен данными между компаниями и платформами, а также исследовательское сотрудничество между командами доверия и защиты пользователей». Во многих речь шла о глубокой трансформации: «Запретить алгоритмическое усиление распространения информации; требовать доказательства безопасности, эффективности и непредвзятости, прежде чем внедрять продукт; признать персональные данные правом человека, а не активом».
Звучали призывы покончить с метриками, строго проверять личности людей, регистрирующихся на платформах, а также пожелания, чтобы компании замедлили скорость распространения информации. Были решения, направленные на обеспечение приватности, и идеи создать более специализированные соцсети для сообществ.
Многие высказались прямо: нужно просто все это закрыть и начать все сначала.
Некоторые из этих идей кажутся настолько утопическими, что о них даже писать сложно – они слишком просты, слишком невероятны. Но в простоте есть своя элегантность; это видение Интернета, с которым мы на самом деле хотим сосуществовать. Facebook продал нам утопическое видение объединенного мира, а в итоге оставил нас с нынешней антиутопией. Почему бы тем из нас, кому приходится наводить порядок в этом хаосе, не попробовать разработать нашу собственную версию утопии? В любом случае мы знаем, что нам предстоит немало работы.
Автор: Чарли Уорзел (Charlie Warzel) - свободный журналист отдела «Мнения» в The New York Times, пишет статьи на темы технологий, СМИ, политики и экстремизма в Интернете. Печатается в IPG
