Бывшая сотрудница Facebook обвиняет компанию в том, что в погоне за прибылью она стравливает своих пользователей, внушает им злобу и ненависть и способствует психическим расстройствам у детей. В подтверждение своего мнения она передала прессе и законодателям большой объем внутренней документации Facebook и дала показания в Сенате.
Фрэнсис Хауген
Фрэнсис Хауген проработала в компании Facebook два года. В декабре 2020-го она стала собирать внутреннюю документацию и связалась с журналистом газеты Wall Street Journal, чтобы открыть обществу глаза на социальную сеть, которая, по ее убеждению, целенаправленно сеет раздор и вражду ради прибыли. На основе собранных Хауген документов Wall Street Journal провела собственное расследование и опубликовала его материалы в серии статей. Хауген оставалась анонимным источником газеты. Когда публикация была закончена, она решила раскрыть свое инкогнито. В воскресенье телекомпания CBS News показала в своем вечернем шоу интервью с Фрэнсис Хауген. Она рассказала об алгоритме, который провоцирует конфликты между пользователями.
– И одно из проявлений того, как в Facebook сегодня работает алгоритм демонстрации контента, – это оптимизация контента с тем, чтобы он вызывал интерес, реакцию. Но собственное исследование Facebook показывает, что контент, пробуждающий ненависть, разногласия, поляризующий пользователей, работает лучше, в людях легче пробудить злобу, чем другие эмоции.
– Дезинформация, злость соблазняют людей...
– Это очень заманчиво.
– И удерживают их на платформе.
– Да. Facebook осознал, что, если они изменят алгоритм, сделают его более безопасным, люди будут проводить меньше времени на сайте, они будут реже нажимать на рекламные баннеры, а Facebook будет зарабатывать меньше денег.
Во вторник Хауген приняла участие в публичном слушании в американском Сенате. Оно было посвящено защите несовершеннолетних от пагубного воздействия социальных сетей. Открывая слушание, председательствующий Ричард Блюменталь призвал Марка Цукерберга дать отчет о своих действиях.
Имеется задокументированное доказательство того, что Facebook знает, что его продукты могут вызывать привыкание, становиться токсичными для детей, и дело не только в том, что они зарабатывают деньги. Дело в том, что они ценили свою прибыль, не думая о боли, которую они причинили детям и их семьям. Ущерб, нанесенный личной самооценке сегодня, скажется на целом поколении. Чувства неполноценности, отверженности и ненависти к себе будут преследовать наших детей долгие годы. Сегодня подростки, глядя на себя в зеркало, испытывают неуверенность. Марк Цукерберг должен сегодня посмотреть в зеркало на себя. Господин Цукерберг, вы должны явиться в этот комитет и объяснить Фрэнсис Хауген, нам, всему миру и американским родителям, что вы делаете и почему вы это делаете.
Фрэнсис Хауген объяснила свои действия желанием помочь Facebook.
Я здесь сегодня потому, что считаю, что продукты Facebook вредят детям, поддерживают разногласия в обществе и ослабляют нашу демократию. Руководство компании знает, как сделать Facebook и Instagram безопаснее, но не будет производить необходимых изменений, потому что они ставят свои астрономические доходы выше интересов людей. Необходимы действия со стороны Конгресса. Они не справятся с этим кризисом без вашей помощи.
Вчера мы видели, как Facebook отключили от интернета. Не знаю, почему это произошло, но знаю, что более пяти часов Facebook не использовался для того, чтобы углубить разногласия и заставить молодых девушек и женщин переживать из-за своего тела. Но это также означает, что миллионы малых предприятий не смогли привлечь потенциальных клиентов, а бесчисленные фотографии новорожденных младенцев не стали поводом для ликования для членов семьи и друзей во всем мире. Я верю в потенциал Facebook. У нас могут быть социальные сети, которые приносят нам радость, которые объединяют нас, не разрушая нашу демократию, не подвергая опасности наших детей и не сея этническое насилие по всему миру. Мы можем добиться большего.
По словам Хауген, компанией давно уже движет не социальная миссия, а погоня за прибылью.
Я неоднократно наблюдала, как в Facebook возникал конфликт между собственной прибылью и безопасностью пользователей. Facebook последовательно разрешает эти конфликты в пользу собственной прибыли.
Фрэнсис Хауген убеждена, что позитивные эмоции могут быть не менее сильным стимулом для пользователей.
Facebook хочет, чтобы вы поверили, что проблемы, о которых мы говорим, неразрешимы. Они хотят, чтобы вы поверили в ложный выбор. Они хотят, чтобы вы поверили, что вы должны выбирать между Facebook, полным разногласий и экстремального контента, и потерей одной из самых важных ценностей, на которых основана наша страна, – свободы слова. Что вы должны выбирать между общественным надзором за решениями Facebook и вашей личной приватностью. Что для того, чтобы иметь возможность делиться со старыми друзьями забавными фотографиями своих детей, вы должны наполнять себя гневом. Они хотят, чтобы вы поверили, что это всего лишь часть сделки.
Я здесь сегодня для того, чтобы сказать вам, что это неправда. Эти проблемы решаемы. Возможны более безопасные, уважающие свободу слова и способные доставлять радость социальные сети. Но есть одна вещь, которую, как я надеюсь, все усвоят из этих разоблачений. Она состоит в том, что Facebook может измениться, но явно не собирается делать это сам. Боюсь, что если ничего не предпринимать, провоцирующее разногласия и экстремистское поведение, которое мы наблюдаем сегодня, – только начало. То, что мы видели в Мьянме, а теперь видим в Эфиопии, – это только первые главы истории настолько ужасающей, что никто не хочет читать ее конец.
Хауген ссылается на Мьянму и Эфиопию как на примеры разжигания этнической вражды при помощи Facebook. Пользователи, следящие за событиями в этих странах, обратили внимание на то, что Facebook не препятствует нападкам в первом случае на представителей народа рохинджа, во втором – на народность тиграи.
Годами Facebook служил эфиопскому режиму и его сторонникам одной из главных платформ, при помощи которых они внушали ненависть к тиграи и демонизировали их, что привело к продолжающемуся геноциду тиграи.
Американcкий суд обязал Facebook передать данные аккаунта, направленного против рохинджа, в дело о геноциде, отклонив возражение о защите конфиденциальности как "исполненное иронии".
Речь идет об уже закрытом аккаунте. Данные затребовала Гамбия, обратившаяся в Международный суд в Гааге с обвинением властей Мьянмы в геноциде. Facebook отказывался передать данные, ссылаясь на свои обязательства перед пользователями. Однако судья-магистрат округа Колумбия Зия Фаруки отказался принять во внимание этот аргумент.
Сенатор Эми Клобушар в диалоге с Фрэнсис Хауген выясняла подробности манипуляций Facebook с несовершеннолетними пользователями.
– Имеет ли смысл приучать человека к социальным сетям в юном возрасте, чтобы извлечь из него больше выгоды в долгосрочной перспективе?
– Во внутренних документах Facebook говорится о важности привлечения молодых пользователей в Instagram. Они понимают их ценность для долгосрочного успеха.
– По их оценке, в прошлом квартале они сделали 51 доллар 58 центов на каждом пользователе, а когда я спросила их, сколько из них было детей младше 18 лет, мне не ответили. Как вы думаете, подростки выгодны?
– Предполагаю, что да, суда по рекламе на телевидении. Я уверена, что это одни из наиболее прибыльных пользователей, но я не работала над этим напрямую.
– Другая проблема – это расстройства пищевого поведения. Исследования показали, что из всех психических заболеваний у женщин расстройства пищевого поведения составляют главную причину смертности. Меня беспокоит, что алгоритмы, которые они используют, продвигают возмутительный контент, пропагандируют анорексию и тому подобное. Вы полагаете, алгоритмы навязывают часть этого контента девушкам? Вы думаете, они создают свои продукты, чтобы вызывать привыкание?
– В Facebook давно действует отдел роста, где занимаются тем, что постоянно стараются оптимизировать сеть с целью ее роста. Эти действия могут быть истолкованы как способствующие развитию зависимости.
Речь идет об обвинениях в адрес сервиса Instagram, принадлежащего корпорации Facebook, который пропагандирует похудение среди несовершеннолетних девочек и тем самым внушает им дисморфофобию – ненависть к собственному телу. Instagram еще в апреле извинился, сославшись на "ошибку алгоритма". Однако "ошибка" продолжается. Помощники сенатора Блюменталя по его поручению зарегистрировали в Instagram аккаунт от имени 13-летней девочки и подписались на несколько страниц о диете и похудении. И алгоритм заработал: юной пользовательнице сервис стал предлагать все новые и новые ресурсы на эту тему.
Facebook пока энергично оправдывается. Он, в частности, утверждает, что WSJ превратно интерпретировал результаты внутреннего исследования о несовершеннолетних пользователях Instagram. Тем не менее на прошлой неделе Facebook объявил, что приостанавливает создание детской версии Instagram с тем, чтобы провести разъяснительную работу с родителями, экспертами и политиками.