Марк Цукерберг любит говорить о сообществе. Его история, сказал основатель Facebook, выступая в 2017 году в Гарвардском университете, — это история «студента в комнате общежития, подключающего по одному сообществу за раз и продолжающего это делать, пока однажды мы не подключим весь мир». Официальная миссия Facebook заключается в том, чтобы «дать людям возможность создавать сообщества и сближать мир». В последнем годовом отчете Facebook, поданном в Комиссию по ценным бумагам и биржам, слово «сообщество» встречается 22 раза.
Но, конечно, это еще не все. Facebook — это история технологии: Миллениалы кодируют социальную сеть. Это также мощная маркетинговая история о корпорации, которая упаковывает и продает данные, детализирующие нашу жизнь. Но она также продает нечто столь же ценное для человеческой жизни, как воздух и вода; стремление к сообществу — вот почему компания скоро будет стоить триллион долларов. Неудивительно, что г-н Цукерберг любит повторять слово, которое сделало его одним из самых богатых и влиятельных людей в истории человечества, как будто он произносит молитву. Вы почти слышите, как он шепчет: Сообщество: Моя драгоценность.
Facebook масштабировал, монетизировал и во многих местах даже монополизировал местную человеческую связь, подобно тому, как Walmart масштабировал и монетизировал покупки, и что Starbucks сделал для кофе, McDonald’s для гамбургеров и Uber для такси. То сообщество, которого мы все так жаждем, стало товаром. «Невозможно обойти стороной коммерциализацию сообщества в социальных сетях, особенно в Facebook», — говорит Кэтрин Шмидт, профессор теологии колледжа Моллой, изучающая технологии.
Сейчас, в конце своего второго десятилетия, Facebook приближается к переломному моменту. Его будущий успех во многом зависит от того, сможет ли он успешно продолжать продвигать глянцевый образ сообщества среди пользователей, политиков, журналистов и регуляторов, одновременно поддерживая сайт, единственной целью которого является запуск секретного алгоритма, управляющего тем, какой контент вы видите, чтобы вы возвращались снова и снова. Потому что маркетинг сообщества в Facebook — это только половина сделки. Вторая часть зависит от того, что остальные из нас заходят на сайт каждый день и охотно предоставляют информацию о себе в обмен на бесплатное общение, информацию и развлечения.
Но если все, что вы хотите делать, это просматривать сообщения о домашних животных, детях и политических взглядах ваших друзей, имеет ли значение внутренняя работа алгоритма или мнение его основателя? Имеют, если компания настолько могущественна, как эта. Недавний иск Федеральной торговой комиссии и генеральных прокуроров 46 штатов, который был отклонен в июне, но сигнализирует о вероятности других судебных разбирательств, сосредоточен на монополии Facebook и на том, как она препятствует конкурентам, покупая их. Компания приобрела Instagram в 2012 году за один миллиард долларов и Whatsapp в 2014 году за 19 миллиардов долларов. Ее размер означает, что у нее есть то, что бизнесмены называют преимуществом первого лица, что делает создание конкурирующей социальной сети практически невозможным. Зачем вам вступать в другую социальную сеть, если все, кого вы любите, и еще почти три миллиарда человек — все в Facebook?
«Действия Facebook по укреплению и поддержанию своей монополии лишают потребителей преимуществ конкуренции», — сказал Ян Коннер, директор Бюро по конкуренции ФТК. Компания Facebook, которая отказалась от комментариев для этой статьи, заявила в своем заявлении, что она «каждый день конкурирует, чтобы завоевать время и внимание людей».
Исследование Pew Research Center, опубликованное в июне 2021 года, показало, что 36 процентов американцев регулярно получают новости из Facebook, хотя сайт утверждает, что он является онлайн-платформой, а не издателем. Наблюдательные группы осудили попустительское отношение сайта к языку вражды, преступным организациям и политической пропаганде, а также обвинили сайт в содействии подготовке нападения на Капитолий США 6 января. Нить, проходящая через многие из этих жалоб, заключается в том, что на самом деле Facebook не является безопасным пространством для сообщества, которое, как утверждается, он курирует.
Доверие на публичной площади
Чтобы выжить, Facebook должен доказать обратное. Именно это стоит за крупными инвестициями в технологию искусственного интеллекта для модерации контента, наймом большего числа людей для этой цели, созданием специального совета по надзору, который принимает некоторые из самых сложных решений на сайте, и постоянными призывами г-на Цукерберга к сообществу. Компания в значительной степени зависит от общественного мнения. Ей нужно, чтобы мы думали, что она верит в безопасную, здоровую версию сообщества, чтобы мы продолжали использовать сайт в качестве общественной площади.
Если ей это удастся, она продолжит расширять свои полномочия, не сравнимые ни с одной частной компанией, оказывая влияние на язык, политику, религию и речь, превосходящее влияние любого правительства страны. Пандемия «Ковид-19», которая на год заставила всех сидеть дома, укрепила позиции Facebook как главной коммуникационной платформы в мире, позволяющей друзьям общаться, церквям — поклоняться, а преподавателям — учить. По состоянию на 31 марта 2021 года компания сообщила о 2,85 миллиардах ежемесячных активных пользователей на своем главном сайте Facebook. Ей также принадлежат приложение для обмена фотографиями Instagram и компания по обмену сообщениями Whatsapp.
За 2020 год выручка Facebook составила $86 млрд, а прибыль — $29,1 млрд. Это одна из четырех крупнейших технологических компаний в мире, наряду с Google, Amazon и Apple. В целом, по рыночной стоимости Facebook является шестой крупнейшей компанией в мире, уступая Apple и саудовской нефтедобывающей компании Aramco, но опережая таких гигантов, как JP Morgan Chase, китайская торговая платформа Alibaba и автомобильная компания Tesla. Возможности Facebook по расширению числа связей, которые вы можете иметь, просто умопомрачительны. Подумайте об этом: Если у вас есть 1000 друзей в Facebook (не такое уж безумное число) и у каждого из них столько же, то у вас миллион друзей ваших друзей.
Размеры Facebook трудно представить. Учитывая, что некоторые аккаунты используются более чем одним человеком, по оценкам, сайтом пользуются более трех миллиардов человек. Это больше, чем население Северной и Южной Америки и Европы вместе взятых. Марк Цукерберг, по сути, является главой государства, охраняемым личными телохранителями. Когда он приезжает в какую-либо страну, его визит привлекает королей и президентов и попадает в заголовки газет. Папа Римский Франциск дал ему аудиенцию.
Для тех, кто изучает жизнь г-на Цукерберга, все это имеет смысл. Будучи подростком, он любил настольную игру «Риск» и видеоигру «Цивилизация», в которой игроки соревнуются в построении могущественных империй. Он изучал правителей Древнего Рима. «В частности, он испытывал фанбойскую привязанность к императору Цезарю Августу, наследие которого неоднозначно: блестящий завоеватель и сочувствующий правитель, который также испытывал непристойную жажду власти», — пишет Стивен Леви в своей авторитетной книге «Facebook: The Inside Story. Г-н Цукерберг даже назвал своего первенца Августом.
Центральное место в империи занимает сообщество. Даже если отбросить голливудский рассказ Аарона Соркина об основании Facebook — Марк и его приятели хотели найти более простой способ знакомиться с девушками — сам мистер Цукерберг говорил, что им двигало стремление к общению, как для себя, так и для других. Последовал экспоненциальный рост, и тысячи, потом миллионы, потом миллиарды людей зарегистрировались: люди, жаждущие общения, бабушек и дедушек, товарищей по команде, приятелей, влюбленных. Я из Facebook. Да, драгоценный. «Помогать людям создавать сообщества — одна из самых важных вещей, которые мы можем сделать», — написал г-н Цукерберг в посте на Facebook в начале этого года, отметив, что в Facebook существует 600 миллионов различных групп. В 2021 году он добавил: «Мы будем продолжать фокусироваться на том, чтобы помочь миллионам людей участвовать в здоровых сообществах, и мы будем еще больше фокусироваться на том, чтобы стать силой, сближающей людей».
Но Facebook продает то, что на самом деле не может создать. Настоящее сообщество состоит из десятков людей — может быть, чуть больше сотни, по мнению социологов, — которые со временем учатся ладить друг с другом, которые терпят различия друг друга, потому что живут рядом или являются родственниками. «В реальном сообществе вы не можете выбирать, с кем плыть в лодке», — говорит Винсент Миллер, профессор теологии в Университете Дейтона. «Вы не можете заблокировать людей на обеде в День благодарения». Предлагая бесконечные возможности для общения с людьми, имеющими общие интересы, Facebook предлагает версию сообщества, основанного на выборе, а не на месте. Сайт усиливает разногласия и заставляет людей возвращаться на сайт, не давая им возможности получить общий опыт, который мог бы смягчить их. Здесь нет места, куда можно пойти, чтобы просто побыть вместе в мире, только слова будут вечно сталкиваться.
В поисках умеренности
В своей последней энциклике «Fratelli Tutti» Папа Франциск пишет, что цифровые отношения не требуют «медленного и постепенного культивирования дружбы, стабильного взаимодействия или создания консенсуса, который созревает со временем». Даже если они имеют «видимость общительности», они «на самом деле не строят сообщество». В противоположность этому видению, изложенному главным операционным директором Facebook Шерил Сандберг в недавних показаниях. Facebook, сказала она, «помогает вам оставаться на связи с друзьями и семьей и помогает вам знать, что происходит, очень эффективным способом». По мнению Папы Франциска, цифровая связь, несмотря на свою эффективность, «не способна объединить человечество».
Несомненно, Facebook, как и Walmart, McDonald’s и Starbucks, кое-что добавил в нашу жизнь. Мы воссоединились со старыми друзьями. Семьи обнаружили кровных родственников, с которыми они никогда не встречались. Двоюродные братья и сестры, живущие на разных континентах, могут легко поддерживать связь. И это бизнес, который предлагает услуги. Как сказал мне Джеймс Мартин SJ. из Америки, в переписке по электронной почте по поводу Facebook, «участие в экономическом обществе» требует определенного компромисса. «С таким же успехом можно не ставить микрофоны в церквях, потому что микрофонные компании получают прибыль от церковных служб», — написал он.
Но возмутительные масштабы, на которые пошла компания, чтобы продать больше рекламы, отличают ее от других и дают ей огромное влияние. По словам г-на Цукерберга, компания стала жертвой собственного идеализма, столкнувшегося с человеческой природой. «Главный урок последних нескольких лет заключается в том, что мы были слишком идеалистичны и оптимистичны в отношении того, как люди будут использовать технологии во благо, и недостаточно думали о том, как люди будут злоупотреблять ими», — сказал он Стивену Леви.
Правда, сказал мне г-н Леви и другие люди, следящие за компанией, заключается в том, что Facebook стал слишком большим, чтобы управлять им последовательно. «В начале она предоставляла этические услуги, а теперь, подобно монстру Франкенштейна, она переросла способность компании контролировать это, — сказал Кристофер Майклсен, профессор бизнеса в Университете Сент-Томаса. Подумайте вот о чем: Facebook заявил, что 5 процентов аккаунтов на его сайте являются фальшивыми. Это не так много, но это может означать до 140 миллионов аккаунтов, что больше, чем население Франции и Англии вместе взятых.
Компании, которые нашли способ извлечь выгоду из масштаба, часто предлагают более низкие цены и удобство. Они также разрушают что-то: в случае с Walmart — тысячи универмагов и небольших магазинов на центральной улице.
С Facebook произошло нечто подобное, и мы медленно разбираемся в этом. Что было разрушено? Самооценка, поскольку мы сравниваем и отчаиваемся; наше чувство уважения к людям с противоположными взглядами. Facebook также может быть опасным оружием. На сайте организуются контрабандисты экзотических животных, торговцы людьми и другие преступные группы. На президентские выборы 2016 года большое влияние оказала ложь, распространяемая в Facebook иностранным государством.
Критики Facebook, выступающие за развал компании, считают ее бизнес-модель разрушительной по своей сути. Сайт отдает предпочтение продаже рекламы, а не привлечению пользователей, хотя это означает, что алгоритм отдает предпочтение спорным или ложным сообщениям, а не правде. «Facebook говорит о создании сообщества», — сказал Барри Линн, исполнительный директор Института открытых рынков. «Но на самом деле они занимаются тем, что извлекают деньги из сообщества». Бизнес-модель компании основана на зарабатывании денег путем продажи рекламы компаниям на основе информации, собранной о пользователях.
Реакция Facebook
Растущая осведомленность о вреде, который наносит Facebook, заставила компанию придумать способ регулирования сайта. Эта компания внедрилась в человеческое общение и создала сообщество в масштабах, которые превосходят население Римской, Британской, Советской и Американской империй вместе взятых. Может ли она также управлять контентом достаточно хорошо, чтобы сохранить его привлекательность и значение для групп, которые его используют?
Ответ Facebook заключается в том, что он может поддерживать хороший надзор за своими сообществами, наняв модераторов контента и вооружив их новым искусственным интеллектом. При 600 миллионах групп это слишком много контента, чтобы 15 000 модераторов компании могли с ним справиться.
Компания публикует большую часть своих исследований в области искусственного интеллекта в специальном блоге. Большая часть работы посвящена обучению машин избегать предвзятости. «Некоторые распространенные статистические представления о справедливости могут привести к непреднамеренным и потенциально вредным последствиям, особенно для маргинальных групп», — отмечается в одной из последних работ. «Это может быть еще более важно учитывать в системах принятия решений, которые могут повлиять на миллионы или даже миллиарды людей».
Компания «выросла настолько большой и быстрой, что искусственный интеллект — это единственная надежда на то, что они смогут следить за тем, что происходит на сайте», — сказал мне г-н Леви. Но, как он пишет в своей книге, даже нанятые Facebook модераторы контента не считают возможным, чтобы ИИ выполнял свою работу. А наем сотрудников, которые потребуются для управления каждым сообществом, противоречит обещанию компании своим акционерам стремиться к сохранению высоких показателей прибыли.
Лидеры сообществ?
Из-за размера Facebook и его либертарианской этики компания иногда допускает вредные высказывания. Например, за несколько месяцев до нападения бунтовщиков на Капитолий США в Вашингтоне 6 января, «американцы подверглись воздействию ошеломляющего количества сенсационной дезинформации о выборах на платформе Facebook, попали в эхо-камеры алгоритмов Facebook и были изолированы от контр-речи архитектурой Facebook», — говорится в заявлении Knight First Amendment Institute Специальному надзорному совету компании.
Сторонники утверждают, что местные сообщества, сформировавшиеся в Facebook, настолько разные, что их невозможно контролировать с помощью искусственного интеллекта, а наем модераторов контента для каждой группы обойдется Facebook слишком дорого. Но критики говорят, что нужно что-то делать. «Facebook не хочет решать эту проблему, потому что она угрожает их бизнес-модели», — говорит Кэти Пол, директор базирующейся в Вашингтоне группы наблюдателей Tech Transparency Project. «Мы говорим о том, что компания с триллионным оборотом не придерживается тех же стандартов, что и другие компании».
Г-жа Пол выступала за то, чтобы заставить Facebook более тщательно отслеживать преступное поведение, особенно в сфере торговли древностями. «Модераторы контента полагаются на то, что пользователи будут сообщать о них, но если вы вступаете в группу по контрабанде антиквариата, вы не собираетесь сообщать о своих клиентах», — отметила она. «И они отказались установить простые алгоритмы, которые могли бы отпугнуть контрабандистов».
Католическая церковь не находится вне влияния сайта. Возьмем недавний спор в обществе по поводу закрытия католической школы в Крафтоне, штат Пенсильвания. Родители создали группу в Facebook под названием «Спасите школу Святого Филиппа в Крафтоне, штат Пенсильвания». Но она стала уродливой: прихожане бросали оскорбления в адрес руководителей местной церкви и называли людей «злыми». Такой разговор заслуживает более активного модератора, чтобы сохранить уважение. В местных группах Facebook часто есть модераторы-добровольцы — роль, которую может взять на себя любой человек, заинтересованный в гражданском диалоге. Но эта роль может быть трудной и неблагодарной и часто истощает и угнетает. И Facebook не будет платить за наем профессиональных модераторов для каждой группы на сайте. «Проблема социальных сетей, особенно Facebook, заключается в том, как легко распространяются гнев, обида и дискриминация», — говорит преподобный Дэвид Поэкинг, священник епархии Питтсбурга. Гневные слова остаются в ветке обсуждения, отравляя остальной диалог».
Facebook облегчил общение и в религиозных общинах. Во время пандемии Ковид-19 многие церкви, синагоги и мечети зависели от Facebook, транслируя службы в режиме онлайн. Как и многие другие проповедники, преподобный Джозеф Сатиш, священник из Дейтона, штат Огайо, говорит, что ему нравится охват аудитории, который обеспечивает Facebook. Когда он проводил мессы на Facebook во время Ковида, более 1000 человек каждую неделю подключались к сети. Но когда он общается со своими избирателями, некоторые люди неизбежно пишут гадости или злобные вещи, сказал он. «Я научился просто никогда не отвечать», — сказал он. «И было бы хорошо, если бы была другая социальная сеть, которую можно было бы выбрать, но ее нет».
В 2020 году Facebook запустил свой Специальный надзорный совет — группу из 20 руководителей высшего звена, политиков и экспертов со всего мира. В число первоначальных членов вошли правозащитник и бывший редактор Guardian Алан Русбриджер и лауреат Нобелевской премии мира Таваккол Карман. Верховный суд Facebook — это уникальное учреждение, которому поручено следить за соблюдением свободы слова во всем мире. Он стал мировой сенсацией, когда поддержал запрет Facebook в отношении бывшего президента Дональда Трампа, продемонстрировав мощь компании, и обязал компанию пересмотреть запрет в течение шести месяцев. Другим ранним решением было отменить решение компании удалить сообщение о раке груди, потому что в нем был изображен сосок, который легко обнаруживается и удаляется системой искусственного интеллекта. Это решение говорит о том, что Facebook слишком полагается на компьютеры, а не на людей, чтобы контролировать контент, сказала в интервью The Wall Street Journal Хелле Торнинг-Шмидт, бывший премьер-министр Дании, которая является членом совета директоров.
Тае Ван Ким, специалист по этике искусственного интеллекта из Университета Карнеги-Меллон, сказал мне, что он благодарит Facebook за то, что он предпринимает шаги по обеспечению соблюдения стандартов сообщества, но говорит, что искусственному интеллекту очень трудно принимать решения, учитывающие нюансы. «Машине практически невозможно уловить нюансы разговора», — говорит он. Например, Facebook боролся со своим решением удалить статью феминистской сатиры, которая гласила: «Убейте всех мужчин».
Но что мы должны делать, участвуя в социальных сетях? Какова наша ответственность? Есть ли способ бороться с монополией Facebook? Кэтрин Шмидт, теолог из колледжа Моллой, утверждает, что католики должны участвовать в работе Facebook и других социальных сетей таким образом, чтобы в конечном итоге перенести разговоры в офлайн и намеренно способствовать развитию реального сообщества. «Можно также утверждать, что нам следует создать конкурирующую христианскую социальную сеть, но это, как правило, более протестантская логика», — сказала она.
В своем сообщении в феврале г-н Цукерберг написал, что «мы создаем инфраструктуру сообщества для поддержки разнообразия сообществ, необходимых для того, чтобы каждый человек в мире мог присоединиться к тем, которые имеют значение для его жизни». Независимо от того, сможет ли Facebook продолжать получать прибыль и расти, его основатель всегда был прав в отношении сообщества: Оно ценно.
Джон У. Миллер
— бывший штатный репортер Wall Street Journal из Питтсбурга и режиссер.
Журнал Америка
