Внутри Facebook. Голая правда

Цукерберг был явно ошарашен представленными цифрами и расстроен тем, что этот вопрос не был доведен до его сведения раньше. «Все техническое руководство прекрасно знало, что среди сотрудников были случаи злоупотребления доступом к данным. Но никто ни разу не собрал все свидетельства воедино, и теперь все были удивлены количеством нарушителей», – вспоминает Стэймос.

«Почему никто не догадался пересмотреть систему, которая давала инженерам доступ к пользовательским данным?» – спросил Цукерберг. Никто в зале не напомнил ему, что он сам разработал и внедрил эту систему. На протяжении многих лет его сотрудники безрезультатно предлагали альтернативные способы хранения данных. «В истории Facebook были шансы пойти другим путем, принять другие решения. Это ограничило и сократило бы объем собираемых нами пользовательских данных, – сказал один давний сотрудник компании, который начал свою карьеру в Facebook в 2008 году и работал в различных отделах компании. – Но это противоречило ДНК Марка. Еще до того как мы обратились к нему с предложениями этих вариантов, мы знали, что он не выберет этот путь».

Менеджеры Facebook, в том числе те, кто руководил инженерами, такие как Джей Парих и Педро Канауати, преподносили возможность доступа к личным данным пользователей как преимущество для привлечения новых сотрудников в свои технические группы. Facebook была крупнейшей в мире экспериментальной лабораторией, а подопытными служила четверть населения планеты. Руководители предоставляли доступ к данным как часть политики радикальной прозрачности Facebook и знак доверия компании своим инженерам. Понравится ли пользователю изображение связки воздушных шаров на напоминании поздравить брата с днем рождения? Или ему больше по душе эмодзи именинного торта? Вместо долгого бюрократического процесса, необходимого для выбора лучшего варианта, инженерам предлагалось просто «открыть капот» и сразу же своим взглядом оценить, что лучше работает. Но Канауати предупреждал инженеров, что доступ к этой информации является привилегией. «Мы абсолютно нетерпимы к злоупотреблениям, вот почему компания всегда увольняла каждого, кто был замечен в неправомерном использовании данных», – говорил он.

Стэймос сказал Цукербергу и другим руководителям, что увольнять сотрудников после факта нарушения недостаточно. «Ответственность Facebook, – утверждал он, – сделать невозможными подобные нарушения неприкосновенности частной жизни». Он попросил разрешения изменить существующую систему и закрыть доступ к личным данным для большинства инженеров. Если кому-то нужна была информация о частном лице, нужно было бы подать официальный запрос по соответствующим каналам. В рамках существующей на тот момент системы 16 744 сотрудника Facebook имели доступ к личным данным пользователей. Стэймос хотел, чтобы эта цифра была меньше 5000. А для наиболее значимой конфиденциальной информации, такой как координаты местоположения и пароль, он хотел ограничить доступ, который имели бы всего 100 человек. «Несмотря на то что всем известно об огромном объеме данных, доступных инженерам, никто не задумывается о том, насколько сильно выросла компания и сколько именно людей сейчас имеют этот доступ, – объяснил Стэймос. – Никто не обращает на это внимания».

Парих, глава инженерного отдела Facebook, спросил, зачем компании переделывать всю систему. Наверняка есть способ установить преграды, которые ограничили бы доступ инженеров к информации или запускали бы звуковые сигналы тревоги в случаях, когда они задают поиск по определенному типу данных. Предлагаемые изменения серьезно замедлили бы работу многих команд разработчиков.

Канауати, директор по разработке, согласился с этим. Он сказал Стэймосу, что неприемлемо требовать от инженеров подавать письменный запрос каждый раз, когда им нужно получить доступ к данным. «Это приведет к резкому замедлению работы всей компании, в том числе в области обеспечения безопасности в других сферах», – отметил Канауати.

Цукерберг сказал, что изменение системы – приоритетная задача. Он попросил Стэймоса и Канауати придумать решение и в течение года проинформировать группу о достигнутом прогрессе. Но для команд инженеров это стало серьезным потрясением. Многие из присутствовавших в зале руководителей потом жаловались в узком кругу, что Стэймос убедил босса взять на себя обязательства по капитальному ремонту структуры, представив наихудший сценарий развития событий.

Отсутствие одного из руководителей было слишком заметным на том совещании в сентябре 2015 года. Прошло всего четыре месяца со дня смерти мужа Шерил Сэндберг. Безопасность была ее ответственностью, и фактически Стэймос был ее подчиненным. Однако она никогда не предлагала осуществить подобные изменения. Более того, ее мнения об этих радикальных планах, которые предлагал Стэймос, никто не спрашивал.

Стэймос ушел в тот день с победой, но нажил несколько влиятельных врагов.

Поздним вечером 8 декабря 2015 года Джоэль Каплан находился в бизнес-центре отеля в Нью-Дели, когда ему позвонили из Менло-Парка. Коллега сообщил, что присутствие Джоэля требуется на экстренном совещании.

За несколько часов до этого избирательная кампания Дональда Трампа выложила на Facebook видеозапись речи кандидата, произнесенной в городе Маунт-Плезант в Южной Каролине. В ней Трамп пообещал занять более жесткую позицию в борьбе с террористами, а затем связал терроризм с иммиграцией. По его словам, президент Обама относился к нелегальным иммигрантам лучше, чем к раненым американским военным. «При Трампе все будет иначе», – заверил толпу кандидат в президенты. «Дональд Дж. Трамп призывает к полному и абсолютному запрету на въезд мусульман в Соединенные Штаты до тех пор, пока представители нашей страны не разберутся, что, черт возьми, происходит», – заявил он

. Аудитория взорвалась аплодисментами.

Трамп сделал провокационные заявления в отношении расы и иммиграционной политики центральными элементами своей позиции кандидата в президенты. Использование соцсетей во время его предвыборной кампании только подливало масла в огонь. На Facebook видео его антимусульманской речи быстро набрало более 100 000 лайков и 14 000 репостов.

Видеоролик поставил платформу в сложное положение. Соцсеть оказалась не готова к такому кандидату, как Трамп: он привлекал огромное количество последователей, но в то же время делил на два враждующих лагеря как пользователей, так и сотрудников. Цукерберг и Сэндберг решили посоветоваться с вице-президентом компании по глобальной общественной политике, который в тот момент находился в Индии, пытаясь спасти программу бесплатного интернет-сервиса Цукерберга.

Каплан подключился к видеоконференции, в которой принимали участие Сэндберг, глава по вопросам политики и коммуникаций Эллиот Шраге, руководитель глобального управления по политике Моника Биккерт, а также несколько других должностных лиц, отвечающих за политику и коммуникации. Каплан был в другом часовом поясе, на тринадцать с половиной часов впереди своих коллег по штаб-квартире и несколько дней провел в дороге. Он внимательно слушал, чем обеспокоены собравшиеся. Цукерберг, как ему сказали, ясно дал понять, что его беспокоит пост Трампа и что, возможно, есть основания удалить его с платформы Facebook.

Когда Каплан наконец взял слово, он посоветовал руководителям не действовать поспешно. Принимать решение по антимусульманской риторике Трампа было сложно по политическим причинам. Годы публичной финансовой поддержки демократов омрачали имидж Facebook среди республиканцев, у которых росло недоверие к политическому нейтралитету платформы. Каплан не был частью мира Трампа, но он воспринимал его кампанию как реальную угрозу. Огромное количество поклонников Трампа в Facebook и Twitter обнажило раскол внутри партии республиканцев.

Каплан добавил, что удаление поста кандидата в президенты – слишком важное решение, которое будет воспринято Трампом и его сторонниками как цензура. Это могут истолковать как еще один признак либерального фаворитизма по отношению к главному сопернику Трампа – Хиллари Клинтон. «Не дразните гусей», – посоветовал он

.

Сэндберг и Шраге не высказывали категоричных мнений по поводу действий в отношении аккаунта Трампа. Они доверяли политическим инстинктам Каплана; у них не было ни связей с кругом Трампа, ни опыта взаимодействия с его фирменной шоковой политикой. Но некоторые сотрудники, принимавшие участие в той видеоконференции, были ошеломлены. Каплан, похоже, ставил политику выше принципов. Как выразился один из участников той конференции, он был настолько одержим задачей удержать корабль на плаву, что не замечал, какую бурю поднимают комментарии Трампа.

Несколько руководителей высшего звена согласились с Капланом. Они выразили беспокойство по поводу возможных заголовков и обратной реакции, которая не заставила бы себя ждать, если бы Facebook удалила выступление кандидата в президенты. Трамп и его последователи уже считали таких лидеров, как Сэндберг и Цукерберг, частью либеральной элиты: богатые и влиятельные хранители информации, которые с помощью своих секретных алгоритмов могли цензурировать консервативные голоса. Facebook должна была выглядеть беспристрастной. Это было необходимо для защиты бизнеса.

Теперь нужно было придумать объяснение такому решению. Пост можно было расценить как нарушение стандартов сообщества Facebook. В прошлом пользователи уже отмечали аккаунт кампании Трампа за риторику ненависти, и многократные отметки такого рода были основанием для полного удаления аккаунта. Шраге, Биккерту и Каплану, выпускникам юридического факультета Гарвардского университета, пришлось попотеть, чтобы придумать юридические аргументы, которые оправдывали бы решение оставить этот пост. Они вдавались в невообразимые подробности того, что можно считать риторикой ненависти, вплоть до особенности грамматики в тексте Трампа.

«В какой-то момент они пошутили, что Facebook должна придумать аналог определения порнографии, которое однажды дал судья Верховного суда: “Узнаю, когда увижу”, – вспоминает сотрудник, участвовавший в разговоре. – Где проходила для них та черта, за которой находились высказывания Трампа, заслуживающие бана? Мудрее было совсем не проводить такую черту».

Facebook теоретически запрещала риторику ненависти, но ее определение постоянно менялось. В разных странах компания принимала меры против различных высказываний в соответствии с местными законами. Существовали универсальные определения запрещенного контента по детской порнографии и контенту, содержащему насилие. Но риторика ненависти отличалась не только в разных странах, но и в разных культурах.

В ходе обсуждения руководители пришли к тому, что им не придется защищать риторику Трампа, если они найдут принципиально другой выход. Группа согласилась с тем, что политическая речь может быть защищена в соответствии со стандартом «информационной значимости». Смысл заключался в том, что политическая речь заслуживает дополнительной защиты, потому что общественность заслуживает возможности сформировать собственное мнение о кандидатах на основе их неотредактированных высказываний. Руководители Facebook создавали новую политику в отношении выступлений на основе рефлекторной реакции на Дональда Трампа. «Это была полная чушь, – вспоминает один из сотрудников. – Они выдумывали все это на ходу».

Для Джоэля Каплана это была важная возможность доказать свою ценность для компании. Несмотря на то что он был не слишком любим некоторыми из коллег, присутствовавшими на той видеоконференции, он давал ценные советы по поводу растущей угрозы, исходящей из Вашингтона.

Когда Сэндберг пришла в Facebook в 2008 году, компания пренебрегала консерваторами. Это была критическая ошибка: там, где речь шла о регулировании сбора данных, республиканцы были союзниками Facebook. Когда в 2010 году в Палате сформировалось республиканское большинство, Сэндберг взяла на работу Каплана, чтобы сбалансировать преимущественно демократичные ряды лоббистского офиса и изменить представление Вашингтона, будто компания предпочитает демократов.

У Каплана была безупречная репутация консерватора. Бывший заместитель руководителя аппарата президента Джорджа Буша-младшего, в прошлом он был офицером морской пехоты США и выпускником юридического факультета Гарвардского университета с опытом работы в качестве помощника судьи Верховного суда Антонина Скалиа. Каплан являл собой прямую противоположность типичному либеральному технарю Кремниевой долины и в свои сорок пять был на пару десятков лет старше большинства сотрудников MПK. (С Сэндберг он познакомился в 1987 году, когда учился на первом курсе в Гарварде. Они недолго встречались и остались друзьями, когда романтические отношения закончились.)

Каплан был трудоголиком, который, как и Сэндберг, на первое место ставил организованность. В его кабинете в Белом доме висела трехстворчатая доска со списком всех горящих вопросов, стоящих перед администрацией: пакеты финансовой помощи автомобильной промышленности, иммиграционная реформа и финансовый кризис. Его задача состояла в том, чтобы решать сложные политические вопросы и не допускать, чтобы проблемы доходили до Овального кабинета. Аналогичную роль он исполнял и в Facebook. В его обязанности входила защита бизнес-модели от вмешательства правительственных органов, и он отлично справлялся с этим.

В 2014 году Сэндберг предложила Каплану возглавить отдел глобальной политики в дополнение к лоббированию в Вашингтоне. Последние два года Facebook готовилась к возможности прихода республиканской администрации после Обамы. Но Трамп сбил их с курса. Он не был из республиканского истеблишмента. Политический капитал Каплана оказался бесполезным, когда дело коснулось бывшей звезды реалити-шоу.

И хотя Трамп усложнял жизнь Facebook, он также оставался влиятельным пользователем и важным рекламодателем. С самого начала президентской кампании Трампа его зять Джаред Кушнер и цифровой менеджер Брэд Парскейл вкладывали большую часть своих медиафондов в социальную сеть

. Они сосредоточились на Facebook из-за ее дешевых и простых функций таргетинга для усиления рекламы кампании. Парскейл использовал инструменты микротаргетинга соцсети, чтобы достучаться до избирателей, сопоставляя собственные списки адресов электронной почты кампании со списками пользователей Facebook. Он работал с сотрудниками корпорации, которые были внедрены в предвыборный штаб Трампа в Нью-Йорке

, просматривал ежедневные выступления Хиллари Клинтон и нацеливал негативную рекламу на конкретную аудиторию. Кампания закупала тысячи рекламных объявлений и видеообращений

. Они легко охватывали более широкую аудиторию, чем с помощью телевидения, и Facebook была их надежным партнером. Присутствие Трампа на платформе стало вездесущим.

Президентские выборы в США в 2016 году развеивают любые сомнения в важности социальных сетей для политических кампаний. К началу 2016 года 44 процента всех американцев заявляли, что получают новости о кандидатах из Facebook, Twitter, Instagram и YouTube

.

В течение почти десяти лет Facebook проводила в конце каждой недели неформальную встречу в масштабах всей компании, известную как «Вопросы и ответы», или Q&A. Ее формат был простым и достаточно стандартным для отрасли: за несколько дней до встречи сотрудники присылали свои вопросы. Лучшие из них выбирались путем голосования. После краткого выступления на встрече, Цукерберг отвечал на эти вопросы. Затем наступала очередь вопросов из зала. Эти мероприятия были более непринужденными, чем ежеквартальные общекорпоративные собрания Facebook, известные как all-hands, которые имели более жесткую повестку дня и включали программы и презентации.

Около двухсот сотрудников лично пришли на встречу в Менло-Парке, и еще тысячи человек смотрели ее прямую трансляцию из офисов Facebook по всему миру. В преддверии мероприятия, последовавшего за речью Трампа о запрете на въезд мусульман в США, сотрудники делились недовольством в своих внутренних Facebook-группах Tribes («племена»: по их мнению платформа должна была удалить ролик с сайта. На более широких форумах, известных как группы Workplace («рабочее место»), где велись более профессиональные дискуссии, люди интересовались, как Facebook относилась к госчиновникам на сайте в прошлом. Сотрудники с возмущением отмечали, что лидеры компании не заняли позицию против того, что, по их мнению, явно представляло собой риторику ненависти.

Один из сотрудников подошел к микрофонной стойке

. Зал затих. «Чувствуете ли вы себя обязанным удалить видео кампании Трампа, призывающее к запрету на въезд мусульман в США?» – спросил он. Такое целенаправленное преследование мусульман, по словам сотрудника, нарушало правило Facebook, запрещающее риторику ненависти.

Цукерберг привык отвечать на трудные вопросы на таких встречах. В прошлом у него требовали объяснений за непродуманные деловые сделки, критиковали за недостаток разнообразия в штате компании и задавали вопросы о его планах по борьбе с конкурентами. Но теперь стоявший перед ним сотрудник задал вопрос, по которому высшее руководство в его собственной компании не смогло прийти к согласию. Цукерберг вернулся к одному из своих основных аргументов. «Это был сложный вопрос», – сказал он. Однако он был убежденным сторонником принципа свободы слова. Удаление ролика было бы слишком радикальной мерой.

Это был основной либертарианский рефрен, к которому Цукерберг возвращался снова и снова: архиважный принцип защиты свободы слова, прописанный в Первой поправке Билля о правах. Цукерберг интерпретировал поправку как полную свободу высказываний. На Facebook может звучать все многоголосье противоречивых мнений и благодаря этому пользователи получат информацию во всей ее полноте. Однако защита свободы слова, законодательно принятая в 1791 году, была задумана непосредственно для поощрения здоровой демократии путем насаждения плюрализма идей без ограничений со стороны правительства. Первая поправка предназначалась для защиты общества. А реклама, в которой приоритет отдавался кликам и непристойному контенту, и сбор пользовательских данных как раз противоречили идеалам здорового общества. По словам Рене ДиРеста, исследовательницы дезинформации из интернет-обсерватории Стэндфордского университета, опасность алгоритмов Facebook заключается в том, что политики и эксперты, вопящие о цензуре, неправомерном модерировании контента и крахе свободы слова в Сети, всячески передергивают ситуацию и используют ее себе во благо

. «Нет никакого права на алгоритмическое усиление. На самом деле это и есть та самая проблема, которую необходимо решить».

Это был сложный вопрос, но, по крайней мере для некоторых, решение было простым. В посте на Workplace, открытом для всех сотрудников, Моника Биккерт объяснила, что ролик Трампа не будет удален. По ее словам, люди сами могут составить мнение о его высказывании.

Сноски. Глава 1. Не дразните гусей

6 Vindu Goel and Sidney Ember, “Instagram to Open Its Photo Feed to Ads,” New York Times, June 2, 2015.

7 Barton Gellman and Ashkan Soltani, “Russian Government Hackers Penetrated DNC, Stole Opposition Research on Trump,” Washington Post, October 30, 2013.

8 Jenna Johnson, “Donald Trump Calls for ‘Total and Complete Shutdown of Muslims Entering the United States,’” Washington Post, December 7, 2015.

9 Sheera Frenkel, Nicholas Confessore, Cecilia Kang, Matthew Rosenberg and Jack Nicas, “Delay, Deny and Deflect: How Facebook’s Leaders Fought through Crisis,” New York Times, November 14, 2018.

10 Issie Lapowsky, “Here’s How Facebook Actually Won Trump the Presidency,” Wired, November, 2016.

11 Sarah Frier and Bill Allison, “Facebook ‘Embeds’ Helped Trump Win, Digital Director Says,” Bloomberg, October 6, 2017.