«Властелин колец», 2020 год и «Орео» с начинкой: читайте служебную записку Эндрю Босуорта (The New York Times, США)

30 декабря Эндрю Босуорт (Andrew Bosworth), один из давних руководителей Фейсбука и доверенное лицо Марка Цукерберга (Mark Zuckerberg), опубликовал обширный меморандум во внутренней сети компании. В посте под названием «Размышления на 2020 год» Босуорт, который курировал рекламную деятельность Фейсбука во время выборов 2016 года, а теперь возглавляет отдел виртуальной и дополненной реальности компании, признал, что если Трамп хитроумно воспользуется рекламными инструментами Фейсбука, это «вполне может привести» к его переизбранию. Однако он придерживается мнения, что компания не должна менять свою политику в отношении политической рекламы. Он уверен, что пойти на этот шаг, чтобы предотвратить победу Трампа, было бы злоупотреблением властью, и приводит в качестве аналогии одну из сцен из фильма «Властелин колец». Г-н Босуорт, которого некоторые сотрудники Фейсбука считают своего рода доверенным лицом г-на Цукерберга, также рассуждает о различных неурядицах, которые создавали компании сложности в течение последних нескольких лет, включая скандалы вокруг конфиденциальности данных, российского вмешательства, политической поляризации и споры о том, полезен ли Фейсбук для общества. Ниже мы целиком приводим этот пост в неизменном виде: Размышления на 2020 год Избрание Дональда Трампа сразу же привлекло внимание к Фейсбуку. Возможно, сама интенсивность и концентрация этого внимания были чрезмерными, хотя я считаю, что это было небезосновательно. Такой критический подход вполне оправдан с учетом нашего положения в обществе в качестве наиболее заметного из новых средств массовой коммуникации. Я думаю, что большинство выявленных критических замечаний были обоснованными и указывают на реальные направления, в которых мы можем двигаться, чтобы лучше служить нашему сообществу. Мне вовсе не нравится, когда обнажаются наши недостатки, но я считаю, что это гораздо лучше, чем если мы останемся в неведении о них. Люди часто попадают в ловушку, отказываясь принимать всерьез обратную связь, если они видят, что какая-то часть критики несправедлива. Это касается как личных отзывов, так и освещения в СМИ. Пресса часто ошибается в деталях, поэтому бывает трудно поверить в достоверность ее выводов. Однако отвергать целое из-за неточностей в деталях — это ошибка. Средства массовой информации работают с ограниченным набором информации (ведь мы так и задумывали!), и иногда они интерпретируют ее совершенно неправильно, но почти всегда их побуждает писать какая-то очень важная проблема, которую мы должны понять. Поговорим подробнее о выборах 2016 года, которые привели в движение эту цепочку событий. Я отвечал за нашу рекламную деятельность во время выборов, а также в течение четырех лет до этого (и одного года после). Стоит напомнить всем, что вмешательство России действительно имело место, но в основном оно осуществлялось не через рекламу. Сто тысяч долларов, вложенные в рекламу на Фейсбуке, могут стать мощным инструментом, но они не смогут купить вам победу на американских выборах, особенно когда сами кандидаты вкладывают на порядок больше денег в эту же платформу (не говоря уже о других платформах). Вместо этого русские работали над тем, чтобы эксплуатировать существующие в американском обществе разногласия. Например, организуя акции протеста против полицейской жестокости в отношении негритянского населения «Жизни черных имеют значение» (Black Lives Matter), а потом сразу и против негритянского насилия против полицейских «Жизни полицейских имеют значение» (Blue Lives Matter) в одном и том же городе в один и тот же день. На эти демонстрации приходили реальные люди, пусть координаторы и были подставными. Точно так же группы американцев, которым скармливали идеологизированный контент, были настоящими, даже если те, кто им его предоставлял, таковыми не были. Органический охват, которого им удавалось достичь, выглядел очень масштабным в абсолютных цифрах, а люди, к сожалению, плохо представляют себе большие числа в общем контексте. Независимо от того, какого охвата они достигли, он представлял собой ничтожно малую часть общего контента, который люди видели за тот же период времени и, безусловно, в процессе выборов во всех средствах массовой информации. Таким образом, большая часть информации, которую всюду распространяют и которой многие верят, не является точной. Но кого это волнует? Несомненно, мы должны были помнить о том, что для демократии важна роль как платного, так и бесплатного, органического контента, и защищать ее более эффективно. Что касается иностранного вмешательства, Фейсбук добился существенного прогресса, и, хотя мы, возможно, никогда не сможем полностью его устранить, я предполагаю, что в 2020 году оно не станет существенной проблемой. Дезинформация также была реальной и связанной с выборами проблемой, но не такого рода, как вмешательство России. Русские, возможно, использовали дезинформацию наряду с идеологической пропагандой в своих кампаниях, но основной источник дезинформации был экономически мотивирован. Люди, не имеющие никаких политических интересов, поняли, что могут привлечь трафик на загруженные рекламой сайты, создавая фальшивые заголовки, и пользовались этим, чтобы заработать деньги. Это скорее можно описать как вбросы, которые играли на склонности человека найти подтверждение своей точке зрения или теориях заговора. На мой взгляд, это еще одна область, где критика была вполне оправдана. В этой области мы также добились значительного прогресса и не ожидаем, что здесь возникнут серьезные проблемы в 2020 году. Генеральный директор Facebook Марк Цукерберг Стоит отметить, поскольку сейчас это снова актуально, что дезинформация со стороны самих кандидатов не считалась серьезным недостатком политической рекламы на ФБ в 2016 году, хотя тогда наша политика была такой же, как и сейчас. Эта политика часто освещается прессой в контексте нашего стремления получить прибыль. Это одна из областей, относительно которой я могу с уверенностью утверждать, что критики ошибаются. Поскольку я некоторое время управлял нашим рекламным бизнесом, я знаю, что это не тот фактор, который мы принимаем во внимание, обсуждая наши решения. Однако, учитывая, что обсуждение нашей политики проходит в частном порядке, я думаю, что мы все можем согласиться с тем, что прессу можно извинить за то, что она сделала такой вывод. Возможно, нам стоило бы раскрыть реальные издержки от таких ошибок, чтобы стало ясно, что для максимизации дохода потребовалась бы совершенно другая стратегия. Скандал с «Кембридж аналитика» (Cambridge Analytica) — один из наиболее ярких случаев из тех, что приходят мне на ум, когда почти все детали неверны, но я считаю, что проверка в целом была обоснована. Фейсбук публично запустил платформу для разработчиков в 2012 году в обстановке, когда нас в первую очередь критиковали за то, что мы удерживаем данные. Каждый, кто добавлял приложение, получал инструкцию, в которой говорилось, к какой информации оно будет иметь доступ, и в то время туда входила еще и информация от друзей. Это может показаться диким в контексте 2020 года, но в то время это решение получило широкую поддержку. Однако единственный механизм обеспечения безопасности данных после их распространения, которым мы располагали — это угрозы подать в суд, которые в итоге не имеют большого значения для компаний, которым нечего терять. Платформа не стала для наших потребителей настолько значимой, как мы рассчитывали, и в 2014 году мы закрыли ее в таком виде. Компания «Кембридж Аналитика» начала с того, что стала проводить в Фейсбуке опросы и собирать информацию о людях. Позже она превратилась в рекламную компанию и присоединилась к нашей маркетинговой партнерской программе, так что другие компании могли воспользоваться ее услугами для показа своих объявлений. Она гордилась своим «психографическим таргетингом». Это была чистая липа, и мы это знали; их реклама показала себя не лучше, чем у любого другого маркетингового партнера (а во многих случаях работала хуже). Я лично сожалею о том, что позволил им остаться в партнерской программе уже по этой причине. Однако мы думали, что это просто еще одна компания, пытающаяся найти способ продвигать себя, и предполагали, что из-за низкой производительности она в итоге постепенно потеряет своих клиентов и понятия не имели, что она торговала старыми данными Фейсбука, которые должна была удалить (и в письменной форме заверила нас, что сделала это). Когда Трамп победил на выборах, «Кембридж аналитика» попыталась присвоить себе все лавры, так что снова оказалась в поле нашего зрения, но лишь потому, что делала [нецензурная брань] заявления о своей собственной важности. Я обрадовался, когда менеджер кампании Трампа Брэд Парскал (Brad Parscale) указал компании на это. Позже от журналистов мы узнали, что они так и не удалили базу данных и вместо этого вовсю расхваливали ее возможности для рекламы. Наша команда по коммуникациям решила, что лучше опередить журналистов и убрать их с платформы. Это была огромная ошибка. Это был не просто дурной тон (и, естественно, это вызвало раздражение журналистов), мы еще и боролись не с той проблемой. Мы хотели прояснить, что утечки данных не произошло (по правде говоря, так оно и было), но настоящая проблема заключалась в самом существовании этого набора данных, независимо от того, как это случилось. Мы также разослали журналистам официальные письма, в которых рекомендовали не использовать термин «утечка». На это спокойно отреагировала газета «Нью-Йорк таймс» (The New York Times) (она на них согласилась), и агрессивно — «Гардиан» (The Guardian) (они разозлились, получив это письмо, и с удвоенной силой стали пользоваться этой терминологией), хотя, насколько я знаю, это довольно распространенная практика. На практике «Кембридж аналитика» — это совершенно непримечательная компания. Это были обыкновенные шарлатаны. Инструменты, которые они использовали, не работали, да и масштаб, в котором они их применяли, несущественен. Все заявления, которые они о себе делали — просто ерунда. Начнем с того, что данные, которыми они располагали, не настолько ценны, и, что еще хуже, быстро теряют свою ценность — настолько, что становятся бесполезными через год или полтора. Действительно, Офис комиссара Соединенного Королевства по вопросам информации (ICO) конфисковал все оборудование компании «Кембридж аналитика» и обнаружил, что никаких данных граждан Великобритании у них не было! Что ж, в таком случае мы можем проигнорировать заявления прессы, не правда ли? Нет. Платформа была настолько плохим ходом, что связанные с ней риски должны были всплыть. То, что мы закрыли ее в 2014 году и так и не рассказали о том, как все было плохо, на мой взгляд, оправдывает эту критику, даже если она слегка ошибочна. Так отвечал Фейсбук за избрание Дональда Трампа, или нет? Я думаю, что ответ — да, но не по тем причинам, о которых все думают. Его выбрали не из-за России, или дезинформации, или компании «Кембридж аналитика». Его избрали, потому что он запустил лучшую цифровую рекламную кампанию, которую мне когда-либо приходилось видеть у какого-либо рекламодателя. Точка. Внесу ясность — я не фанат Трампа. Я пожертвовал максимум средств кампании Хиллари. После его избрания я написал пост о сторонниках Трампа, который, как мне сказали, заставил моих коллег, которые поддерживали его, чувствовать себя незащищенными в моем присутствии (я сожалею об этом посте и вскоре удалил его). Но Парскал и Трамп проделали просто невероятную работу. У них не было дезинформации или обмана. Они не проводили микроадресацию и не говорили разные вещи разным людям. Они просто использовали инструменты, которые у нас были, чтобы показать каждому правильную картинку. На мой взгляд, работа с пользовательскими аудиториями, видео, электронной коммерцией и свежие творческие идеи остаются высшим достижением цифровых рекламных кампаний. Это подводит меня к настоящему моменту, ведь мы сохраняем прежнюю рекламную политику. Мне приходит в голову, что это вполне может привести к тому же результату. Как убежденный либерал, я отчаянно хотел бы нажать на любой рычаг, который есть в моем распоряжении, чтобы избежать повторения этого результата. Так что же есть у меня в руках? В этот момент я вспоминаю фильм «Властелин Колец». Например, когда Фродо предлагает кольцо Галадриэль, и она сначала представляет себе, что сможет использовать его силу в благих целях, но понимает, что в итоге она развратит ее. Как бы ни было заманчиво использовать имеющиеся у нас инструменты, чтобы повлиять на результат, я уверен, что нам никогда не следует этого делать, иначе мы сами станем тем, чего боимся. Философ Джон Роулс (John Rawls) пришел к выводу, что единственный нравственный способ принять решение — полностью отстраниться от специфики каждого человека, который имеет к этому отношение с помощью так называемого «покрова неведения». Это инструмент, который заставляет меня верить в программы либерального правительства, такие как всеобщее здравоохранение, расширение жилищных программ и продвижение гражданских прав. Это также инструмент, который не дает мне ограничить охват публикаций, которые завоевали свою аудиторию, делая это настолько же неприятным для меня, насколько их содержание может мне не нравиться или противоречить нравственной философии, которой я так дорожу. Это не значит, что здесь нет никакой грани. Такие вещи, как подстрекательство к насилию, давление на избирателей и многое другое — это те вещи, которые с помощью той же нравственной философии можно было бы с уверенностью исключить. Но я думаю, что мои коллеги-либералы тоже немного, хм, слишком либеральны, когда доходит до того, чтобы называть людей нацистами. Если мы не хотим, чтобы к власти пришли политики, разжигающие ненависть, мы не должны избирать их. Если их избирают, мы должны стараться завоевать сердца и умы. Если мы подтасуем результаты, не завоевав умы людей, которыми будут править, то у нас будет только номинальная демократия. Если мы ограничим информацию, к которой люди имеют доступ и то, что они могут говорить, у нас вообще не будет демократии. Этот разговор часто вызывает тревогу вокруг информационных пузырей, но это миф, который легко развеять. Спросите себя, сколько газет и новостных программ люди читали / смотрели до Интернета. Если в среднем ваше предположение — «одну и одну», вы правы, и если вы подозреваете, что они были идеологически близки им, вы снова правы. Интернет предоставляет им гораздо больше контента из других источников (его на 26% больше в Фейсбуке, согласно нашему исследованию). Так что это просто заблуждение. Зацикленность на информационных пузырях заставляет людей упускать из виду настоящую катастрофу — поляризацию. Что происходит, когда вы видите на 26% больше контента от людей, с которыми вы не согласны? Это помогает вам сочувствовать им, как все предполагают? Нет. Это заставляет вас еще сильнее ненавидеть их. Это также легко доказать с помощью мысленного эксперимента: независимо от ваших политических предпочтений, представьте себе, что вам попалась публикация из противоположного лагеря, который вы презираете. Когда вы читаете статью этого издания, возможно, вместе со своим дядей или племянником, заставляет ли она вас переосмыслить свои ценности? Или она заставляет вас лишний раз убедиться в собственной правоте? Если вы согласились с первым утверждением, поздравляю — вы лучше, чем я. Каждый раз, когда я читаю какой-нибудь материал агентства «Брейтбарт» (Breitbart), я становлюсь на 10% более либеральным. Что все это говорит нам о природе вознаграждения алгоритмов? Все указывают на то, что верхний уровень контента (0,1%) остро поляризован, но насколько круты эти кривые? Как выглядят верхние 10% или 5%? И каков реальный охват этих кривых по сравнению с другим контентом? Я думаю, что призывы к прозрачности алгоритмов могут быть отчасти преувеличены, но более прозрачный подход к данным такого типа, вероятно, был бы полезен. Я предполагаю, что люди обнаружат, что алгоритмы в первую очередь разоблачают желания самого человечества, хорошо это или плохо. Это проблема «Сахара, соли и жира». Одноименная книга рассказывает историю вроде бы о пище, но на самом деле об ограниченной эффективности излишней заботы корпораций о потребителях. Некоторое время назад у компании «Крафт Фудс» (Kraft Foods) был руководитель, который пытался сократить количество продаваемого компанией сахара в интересах здоровья потребителей. Но клиенты хотели сахара. Таким образом, вместо этого он в конце концов сократил долю компании на рынке. Показатели состояния здоровья при этом не улучшились. Этот генеральный директор потерял свою работу. Новый генеральный директор представил печенье «Орео» с четырехкратным количеством начинки, и компания вернулась к процветанию. Давать людям инструменты для принятия собственных решений — это хорошо, но попытка навязать им решения редко работает (на них или на вас). В такие моменты люди словно предполагают, что наши пользователи действительно лишены свободы воли. Люди сравнивают социальные сети с никотином. Это кажется мне чудовищно оскорбительным — не для меня, а для зависимых людей. Я видел, как члены их семей борются с алкоголизмом, а одноклассники — с опиатами. Мне известно, что сейчас идут споры о том, что считать зависимостью, но я всецело на стороне неврологов. Тем не менее, хотя Фейсбук — это, может, и не никотин, но он похож на сахар. Сахар очень вкусная штука, и он занимает особое место в жизни большинства из нас. Но, как и всеми остальными вещами, лучше всего им не злоупотреблять. Напоследок мы вынуждены задаться вопросом, какую ответственность несут люди за себя. Оставим в стороне вещества, которые неестественным образом изменяют биохимию нашей нервной системы. Сделаем затраты и компромиссы максимально прозрачными. Но, помимо этого, каждый из нас должен взять ответственность за самого себя. Если я хочу есть сахар и умереть раньше времени, это тоже позиция. Мой дедушка занял такую позицию по отношению к бекону, и это вызывало у меня восхищение. А социальные сети, вероятно, гораздо менее смертоносны, чем бекон. В завершение этого необычайно длинного и запутанного очерка я хотел бы запустить дискуссию о том, какие уроки люди извлекли из освещения в прессе. Мой вывод: мы опоздали с реакцией на проблемы защиты данных, дезинформации и иностранного вмешательства. Нам нужно заранее решить вопросы поляризации и прозрачности алгоритмов. Какие другие важные темы волнуют людей и какой будет наша позиция?