Сонный паралич. Как соцсети стали пространством недоверия и фейков

Российские соцсети были в 2018 году площадкой горячих, иногда агрессивных споров, причем тематика их предметов постоянно расширяется: пользователи с яростным напором ломают копья не только вокруг традиционных политических водоразделов, но и – с тем же жаром – по-поводу сексуального поведения, философии науки и популярной литературы. От участия Ксении Собчак в президентских выборах и инсценировки покушения на Аркадия Бабченко до движения MeToo и неточностей в книге Аркадия Ипполитова о Риме: вместо площадки для конструктивного диалога социальные сети оказались пространством стратификации, в котором договориться невозможно, а поссориться – легче легкого. На этом фоне Фейсбук, Твиттер и другие компании ведут борьбу с фальшивыми новостями – "фейк ньюс", источником которых были в том числе и российские политтехнологи, которые пытаются использовать недальновидную эмоциональность пользователей в своих целях.

Автор книги "Как соцсети заставляют нас верить фейковым новостям" Борислав Козловский рассказал Радио Свобода о том, как видят феномен соцсетей ученые, много ли на самом деле у каждого из нас друзей, насколько велик потенциал "российских троллей" и как пропаганда буквально убивает людей.

– Что вы думаете о российском Фейсбуке последнего времени, скажем, 2018 года? Споры стали, кажется, еще яростнее, и линия водораздела между оппонентами проходит очень прихотливо. "Мы и они" – это не только "за Путина и против", но и разное отношение к харассменту, к допустимости залезть ногами на библиотечный стол, да даже к неточностям в книге о Риме.

– Да, вот это "мы и они" меня волновало до такой степени, что главка про этих "нас и их" даже отчасти выбивается из общего кода книги. Потому что меня ужасно подкупили исследования про то, что есть предрасположенность к политической позиции, завязанная не на саму политическую программу, а на какие-то базовые моральные примитивы.

– Например?

– Например, люди очень по-разному переживают из-за отвратительных стимулов. На отвратительное можно смотреть по-разному. Можно отвернуться и пройти мимо – вот валяется дохлая кошка. Можно прийти в ужас и подумать, как бы обустроить всю свою последующую жизнь так, чтобы дохлая кошка вам больше на пути не попадалась. И вот есть теория, что реакция отвращения сама по себе, степень, в которой отвратительный стимул заставляет нас на него реагировать эмоционально, определяет наши более глобальные стратегии.

Вот для кого-то важно во что бы то ни было не сталкиваться с "отвратительным" в его понимании: от дохлой кошки до "нестандартного" сексуального поведения других людей, нецензурной лексики, "неподобающего" контента для детей. Когда я это вот так перечисляю, понятно, что это в сущности консервативная программа, и кажется, что эти рассуждения – натягивание совы на глобус. До того момент, пока мы не натыкаемся на исследования, серьезные, с томографами, со всеми делами, где, собственно, людей укладывают в МРТ-томограф, показывают картинки, которые вызывают реакцию страха или отвращения, и понимают, что реакция на эти картинки очень сильно коррелирует с тем, как они отвечают на дежурные вопросы анкеты про политические взгляды.

– Похоже на то самое "биологизаторство", то есть объяснение поведения через биологию, которое так критикуют социологи.

– Я на эту тему разговаривал осенью с социологом Григорием Юдиным, и я готовился защищать биологизаторский взгляд на вещи, что нет мол никакой вашей политики, есть дофамин и серотонин и гены, которые отвечают за дозировку дофамина и серотонина в разных кусках мозга. Но неожиданно выяснилось, что дыра в этом рассуждении с другой стороны. Когда это исследование делают американские биологи за компанию с американскими политологами, им понятно, кто такие либералы и кто такие консерваторы. Понятно, что, говоря "консерватор", подразумевают республиканца с его протестами против гей-браков, абортов, всего хорошего и прогрессивного, и с защитой права на оружие, с защитой права стрелять в любого, кто покусится на метр вашей частной собственности, с правом оставить свой дом на взлетно-посадочной полосе строящегося аэродрома, если вы вдруг решите его не продавать из-за могилы любимой собачки. Но в этом начинает внезапно наблюдаться глобальное расхождение с теми смыслами, которые мы вкладываем в понятие консерватора в России. Потому что здесь это человек, стоящий на прогосударственных позициях, условный запутинец, который одобряет любое действие государства. И он, в отличие от американского консерватора, одобряет запрет на оружие, потому что иначе начнется черт знает что. Он абсолютный антииндивидуалист, в отличие от консервативного американского индивидуалиста. Выясняется, что сколько бы мы ни взяли политических культур, существует именно сам водораздел, само распределение.

– На политические взгляды это распределение везде накладывается по-разному?

– Как только мы наблюдаем паттерны активности, причем в подкорковых областях, активность которых не сильно меняется в зависимости от того, к чему мы себя готовим, становится понятно, что есть фундаментальное биологическое различие. Понятно, что выражаться оно может по-разному. Консерватор – это человек, который в одном случае делегирует государству право защищаться от всего как бы "отвратительного" – вот мы не любим гей-браки, и давайте запретим геев, давайте Яровая запретит подросткам ходить на митинги и так далее. В другом случае человек говорит: мое ружье – возможностьзащищаться от всего, что мне неприятно. Но в обоих случаях речь идет об обороне, человек живет в кольце врагов. И совершенно не важно, откуда враги, какую стратегию он выберет, но он консерватор и там и там ровно потому, что его позиция – оборонительная. Или даже "охранительная".

– Но в соцсетях спорят не только те, кто в кольце врагов с теми, кто нет.

Борислав Козловский

– Да, условный водораздел между либертарианским лидером студенческого голосования в Высшей школе экономики и профеминистским движением в той же Вышке, которое требует его за плохие высказывания в Твиттере немедленно лишить должности, это очевидно не спор между консерваторами и демократами с разных полюсов планеты, это спор между людьми, которые в каком-то смысле варятся в одном котле. На глазах происходит раскладывание людей по коробочкам. И вот здесь стоит забыть про идеологию и задумать о том, как строится наш социальный граф, насколько мы вообще сталкиваемся в соцсетях с людьми, у которых отличное от нашего мнение? Есть такое заблуждение, которое касается "нас" и "их": какие-то там "они" подвержены ошибкам, распространяют все эти ужасные слухи, ну, что Пугачева умерла страшной смертью. И есть "мы", которые читают исключительно новости в авторитетных изданиях и морщатся от текстов в хороших СМИ только потому, что там недостаточно представлены две стороны конфликта. На самом деле, "мы" подвержены ровно тем же заблуждениям, "мы" так же естественно ограждаемся от альтернативных мнений, "мы" так же охотно поддаемся разным когнитивным искажениям, как те гипотетические "они", которые постят новости про Пугачеву. С одной стороны мы очень легко разделяемся на группы тупоконечников и остроконечников, а с другой – никакой сущностной разницы между симпатичными, милыми, хорошими людьми, которые умеют читать, и людьми, которые смотрят телевизор 24 часа в сутки, в общем, нет. Это свойство заблуждаться, свойство поляризоваться – общее.

– Этот процесс раскладывания нас на коробочки – к чему он приведет? Мы до чего-то договоримся или наоборот, разделимся на сотни маленьких и ожесточенных групп по интересам?

– Вот во времена Ньютона людей ужасно волновала проблема: почему во Вселенной достаточно равномерно рассеяны звезды, если у нас есть гравитация, которая, казалось бы, должна все стянуть к предполагаемому центру? Почему мы все не сойдемся к такому предполагаемому центру, где живут взвешенные, рациональные, разумные мнения? Вот ровно потому, что у нас во вселенной фейсбука есть невидимая нам темная энергия, оттаскивающая нас за шиворот от альтернативных и, возможно, более разумных мнений. Дело не в том, что мы не знаем аргументацию сторонников MeToo, а дело в том, что мы окружены пузырем. Например, большинством людей вокруг вас начинают рассказывать свои человеческие истории, связанные с ужасным лицемерием вокруг, с умолчанием, с тем, кто никто не воспринимал это как проблему, пока об этом не стало можно говорить. Я полностью поддерживаю позицию людей, которые говорят: "Нет, это ненормально, когда кто-то рядом с вами злоупотребляет служебным положением, склоняет вас к сексу, даже не хватая за руку и не бросая в кровать".

Но вместе с этим я наблюдаю абсолютный дефицит историй с противоположной стороны, когда правила, придуманные для того, чтобы таких ситуаций не происходило, абсолютно дегуманизуют и механизуют жизнь. Ну, вот недавно всплывала инструкция с Уолл-стрит, как вести себя с женщиной младше 35 лет: не устраивать обсуждений в комнате, в которой двери не распахнуты достаточно широко, не приглашать на кулуарные встречи и так далее. Это оставляет за стеной людей, для которых мир работы – мир осмысленного взаимодействия между людьми, где дружба появляется благодаря тому, что люди осмысленно работают над каким-то общим проектом, где служебные романы возникают благодаря тому, что людям видно друг друга, для которых пространство дела – это пространство всей остальной жизни. Я работал в редакциях, где люди ночевали на диванчике, катались по офису на роликовых коньках в час ночи, продолжая делать новости. И я понимаю, что, появись там эти правила там, это бы все обессмыслило… Если здесь вся жизнь, то почему мы должны до такой степени ее схематизировать? И вот здесь я обнаружил в какой-то момент, что моя френд-лента более-менее зачищена от негодования на эту тему не потому, что какой-то специальный цензор сидит и это зачищает, а просто я, вероятно, некоторое количество раз лайкнул совершенно реальные жизненные истории сторонников MeToo, и Фейсбук совершенно резонно предположил, что вероятность лайка больше у историй с этой, а не с той стороны. И вот та граница, которую поставил алгоритм между двумя категориями постов, она меня мягко подталкивает к центру одной группы. Не к общему центру, не туда, где находится волшебное, взвешенное, идеальное мнение, оптимальная стратегия, а просто в центр одной из групп, с который я в один конкретный момент оказался более солидарен.

– Получается, что среди факторов, которые влияют на наши взгляды, появился еще один, и очень существенный – алгоритмы социальных сетей.

– Да, он помогают нам сбиваться в кучки. Есть устойчивое понятие – информационный пузырь, его придумали, когда Фейсбук еще не играл такой вселенской роли, речь тогда шла о персонализированном поиске Гугл. Если вы сторонник гомеопатии, по запросу про гомеопатию и ГМО Гугл покажет вам статьи, где гомеопатия будет описана как нечто хорошее и полезное, а ГМО как ужасное и плохое, и наоборот. И получалось, что вместо поиска истины Гугл пытается наилучшим образом удовлетворить ваше чувство правоты.

– Алгоритмам не интересна истина, он хочет доставить вам удовольствие.

Обложка книги Борислава Козловского "Максимальный репост". Двуногий верблюд - ставшая популярной фэйковая картинка, якобы изображающая верблюда, пострадавшего от противопехотных мин и научившегося ходить на двух ногах

– В известном смысле, да. Проблема в том, что наше удовольствие – социальное. Мы зависим от одобрения окружающих. Мы учимся действовать так, чтобы нам досталось как можно больше социальных поглаживаний. Нам с одной стороны выгодно быть конформистами, а с другой стороны, выгодно транслировать самые горячие, самые неожиданные новости. И вот на этом противоречии, что конформизм заставляет нас придерживаться мнения группы, но при этом нам надо поражать эту группу чем-то радикальным, ярким, на этой разности потенциалов и вырастает феномен фейковых новостей. Недостаточно просто соглашаться с группой во всем, надо изобретать что-нибудь такое, что, с одной стороны, будет новым и неожиданным, а с другой стороны, будет вполне укладываться в систему мировоззрения группы.

Есть такой принцип, выдвинутый английским антропологом Робертом Данбаром: максимальное число наших социальных связей ограничено. 150 человек – с таким количеством людей в мире мы реально общаемся, но из них только 5 – те, с кем можно действительно поговорить про серьезные вещи, травматичные, опасные, и еще 20 – с которыми можно в принципе пообщаться, а не просто обменяться какими-то дежурными приветствиями. И получается, что мы очень зависимы от мнения довольно маленькой группы, стараемся на это влиять, и между нами растут достаточно прочные стенки, несмотря даже на общий бэкграунд.

– Есть такая расхожая фраза, которую произносят почти при любой острой полемике: "хорошо, что про это хотя бы начали говорить". Получается, что ничего хорошего – говорить начали, но договориться невозможно?

– По крайней мере, оппоненты узнают о существовании друг друга. Но вот смотрите: универсальная больная тема в России – это прививки. Существуют антипрививочники и пропрививочники. Как переубеждать антипрививочников? Спросите научного просветителя – он вам предложит набор аргументов, нужно сослаться на статью из "Ланцета" 1998 года и так далее. Помните ли вы, чтобы вам этими аргументами удавалось раз и навсегда переубедить хотя бы одного человека? Вообще, переубедить – это какая-то удивительная совершенно вымышленная ситуация. Это как единороги, этого не бывает. В результате спора люди не переубеждаются, носители мнений не переубеждаются практически никогда. Но существуют люди, которые на эти темы никогда не задумывались, и вот им открывается короткая возможность оказаться в одном или в другом лагере. Остальные произносят некоторое количество мантр, которые кажутся эффективными аргументами против противника. А в итоге поляризуются и не договариваются.

– Но погодите: вот история с MeToo, тоже нельзя сказать, что удалось до чего-то договориться, но нельзя сказать и что ничего не сдвинулось с места. Грубо говоря, некоторые издания, которые раньше могли пошутить про "телочек" теперь точно этого не сделают.

Проблема в том, что где-то на противоположном конце существует издание вроде "Полит-Онлайн", где комментаторы запросто могут употребить слово "митухи" и пишут про взбесившиеся вагины, и прочее, и прочее. То есть на каждое СМИ, которое нашло свою аудиторию среди людей, для которых историй MeToo не пустой звук, приходится одно СМИ, которое собрало свою аудиторию вокруг отрицания всего этого "лицемерия", "западного ханжества" и тому подобного. Конечно, в результате обсуждения меняется и расклад, и СМИ. Кстати медиа – это особый игрок во всей этой истории, потому что СМИ понимают, что они не целятся точно в одну группу, состоящую из 20 человек, им нужно учитывать существование большого поля, плотно усеянного разными группами. С одной стороны ты публикуешь истории MeToo, с другой – явно иронизируешь над правилами с Уолл-Стрит.

Вообще, слово "договориться" – оно не из этого контекста. Договориться – это означает, люди занимаются неким делом, это касается стратегии, когда нужно решить, как мы вместе будем поступать. Проблема в том, что большинству людей не приходится поступать как бы то ни было в контексте своих мнений в социальных сетях. Казалось бы, мы все ценим рациональное мышление, потому что оно позволяет нам вырабатывать более выигрышные стратегии. Но на практике от того, что 55-летний инженер, разработчик крылатых торпед, не знаю, верит в заговор Рокфеллеров или не верит, от этого то, как он будет делать свои крылатые торпеды на заводе "Уралмаш", совершенно не зависит.

– В конце прошлого года вышло исследование деятельности так называемого "Агентства интернет-расследований" - российских троллей, которые пытались манипулировать общественнм мнением в социальных сетях США. Впечатление такое, что получалось у них это достаточно эффективно – я говорю не о влиянии на результаты выборов, это невозможно измерить, а о вовлечении аудитории. Известно всего о нескольких десятках аккаунтов, но каждый их пост получал сотни лайков и перепостов, а всего записи АИР вызвали десятки миллионов реакций.

– Это не так-то много. Для сравнения, Фейсбук хвастается, что они добились снижения с 200 миллионов контактов пользователей англоязычного сегмента с фейковыми новостями в день (то есть число событий, когда пользователь встречает в своей ленте фейковую новость) до 70-ти миллионов. Американская предвыборная кампания длилась не день и не два, горячая часть – это минимум три месяца. Допустим сто дней по 200 миллионов контактов – это 20 миллиардов. Теперь давайте представим, что каждая реакция, то есть лайк или репост, на сообщения российских троллей превращается в 10 контактов. Получается несколько сотен миллионов, это почти на два порядка меньше. Это не похоже на критический вклад в общий объем fake news.

Больше того, одно из главных наблюдений про фальшивые новости, что это не просто вот, не знаю, летит поток частиц сквозь космос – это фальшивые новости, и он сталкивается с потоком мишеней – случайных людей. Есть люди с конспирологической картиной мира, которые одну за одной систематически лайкают новости о том, что администрация Обамы растлевает детей, убивает бесстрашных расследователей-республиканцев, распыляет в штате Арканзас химикаты, которые меняют сознание простого американского избирателя. Фальшивые новости не просто попадают в кого попало, у них есть своя аудитория, грубо говоря, это люди с конспирологическим мышлением. Они всегда были, но теперь внезапно стали активным ретрансляторами информации. То есть этих людей стало слышно. Дело не в том, что фейк-ньюс вовлекли много новых людей в это ядро, а в том, что голос этого ядра стал слышным, оно стало заражать некоторое количество других людей. И некоторое количество лайков от этого ядра, вполне себе стабильного и существующего без всякого российского вмешательства, схлопотали российские политтехнологи. Конечно, всегда удобно во время солнечного затмения сказать: "Смотрите, мы хорошо помолились – и вот солнце погасло". Мне кажется, эти люди очень сильно перехваливают себя потенциальному заказчику.

– Но их перехваливает, получается, и противоположная сторона.

– Конечно, преувеличивать угрозу тоже выгодно. Но, повторюсь, дело не в эффективности троллей, а в том, что появились новые условия распространения информации. Ну, хорошо, вы гениальный политтехнолог, вы сделали пост, который перепостили сотни или тысячи пользователей. Почему этот стал заразным, почему эта новость вирусная, а другая новость не вирусная? Вот наблюдение из области машинного обучения. Генеративные модели сложнее дискриминативных. Другими словами, очень легко научить машинный интеллект отличать Пикассо от Дали, но очень сложно научить его рисовать, как Пикассо или как Дали. То же самое и здесь. Очень просто наблюдать разные паттерны в сложной системе, которая порождает фейковые новости, но сложно генерировать их самому с гарантированным успехом. Почему они репостятся? Почему стало выгодным сделать десятки тысяч сайтов, производящих фальшивые новости из позапрошловековых анекдотов? Почему, наконец, пользователям, которых никто не любит, у которых 2,5 френда, стало так важно эти новости репостить? Потому что это – такие репосты – самая дешевая монета, которая позволяет пользователю прикупить себе социального статуса. А для других это самая дешевая монета, которая позволяет превратить свой сайт в трафик-генератор, самое дешевое топливо. И вот эти все механизмы работают, шестеренки крутятся, и тут объявляется кто-то, кто говорит: смотрите, за этими коллективными процессами есть выключатель, вот выключим – и ничего этого не будет, внезапно людям перестанет быть важно транслировать хайповые новости. За этой уверенностью не стоит никакой научной базы.

– То есть виноваты не российские тролли, а устройство социальных сетей и психология?

Недавно я читал прекрасное интервью Михаила Гельфанда, где он говорил, что "я не очень верю футурологам, потому что я не знаком ни с одним футурологом-миллиардером". Если эти люди так удачно могут выдавать цепляющие истории про какого угодно кандидата, почему они все не сидят в Голливуде сценаристами, и почему Голливуд вынужден каждый раз выкатывать фильмы, на которые было потрачено по 50 миллионов долларов, не зная, будут кассовые сборы – 10 миллионов или 260 миллионов?

– Вы сами сказали, что в США (конечно, не только там) есть устойчивая группа, скажем так, людей, с конспирологическим мышлениям. Не нужно быть суперсценаристом, чтобы прицелиться специально в нее и "скормить" ей нужный контент. И мобилизовать людей, например, вокруг голосования за Трампа или против Клинтон.

– Для того, чтобы доказать, что затмение происходит не из-за жрецов, достаточно понаблюдать некоторое количество затмений, которые случились, когда жрецы не молились. Если бы фейк-ньюс были локальным феноменом вокруг и около выборов Трампа, то ключевое влияние извне было бы более основательной гипотезой, но они расходятся в Индии, в Китае, в арабских странах, где угодно ровно такими же каскадами, ровно так же веерно. Российских политтехнологов не хватит на всех. При этом есть люди, которым фейковые новости делать выгодно без всяких идеологических причин, просто потому что их выгодно продавать. Вы пытаетесь записать на Ютьюбе видео, как ваша любимая собачка танцует под Фредди Меркьюри, и оно собирает 400 просмотров. Вы делаете видео, как вы дроном летаете над удивительным заброшенным карьером, и оно собирает 600 просмотров. Недостаточно, чтобы на доходы от рекламы переселиться во Флориду. А тут у вас появляется инструмент, который позволяет вам на вашем собственном сайте, где вы откручиваете рекламу, собирать 10-тысячный трафик. В "Гардиан" был материал – в Македонии простые македонские парни подняли 50 или 80 сайтов, которые тиражировали новости про Трампа, и заработали на этом нормальные каникулярные деньги. И это не уникальная история. Политтехнологи – золотокопатели, но золотая жила открыта не для них одних.

Дональд Трамп

– В книге вы пишете, что источником вирусного контента в соцсетях как правило являются отдельные пользователи, причем не очень популярные. Как это устроено?

– На самом деле, это история про то, что я называю rumors, слухи – это вирусные картинки. Их очень легко отслеживать, картинка всегда одинаковая. Что касается фэйковых новостей, то их источник – это все-таки тот, кто в состоянии связно рассказать историю длиной в 1500 знаков. Вот типичная контора в Македонии из шести человек, они знают, где у новости должны быть завязка, развязка, кульминация и так далее, знают что-то про принцип перевернутой пирамиды, и вот – научились строгать этот нехитрый продукт. Этакая артель ложечников. У утверждения, что за фальшивыми новостями стоит какая-то единая злая сила слишком слабая объяснительная способность.

– А насколько на самом деле велико влияние фальшивых новостей на реальность – на те же выборы?

– Здесь очень сложно что-то оценить напрямую. В книге я привожу показательную историю про геноцид в Руанде. Там ведущие государственного "Радио тысячи холмов" прямо подстрекали к убийству представителей народности тутси. Но в Руанде, действительно, много холмов, и сигнал трансляции не везде хорошо принимается. Исследователи сравнили, сколько людей погибло там, где сигнал был хорошим и там, где радио практически не было слышно. Казалось бы, это мелочь, вот нам кажется, что мы – люди со своим сложным комплексом мнений, а тут кто-то где-то в телевизоре, который мы видим краем глаза, кто-то что-то говорит, а тем более в интернете. Выяснилось, что пропаганда способна заставить тебя пойти и убить с большей вероятностью, чем если бы пропаганды не было. У исследователей получилось, что влияние пропаганды на геноцид – 50 тысяч убитых, 10 процентов от общего числа. Понятно, что есть эффект диффузии, то есть пропаганда не действует точечно, она не выключается там, где ты скрыт от радио за холмом, просто туда пропаганда приходит в пересказе.

– Подсчитать также влияние Фейсбука не получится.

– Да, никто не может поставить чистый эксперимент, сказать: мы ответственны за столько-то голосов у Трампа. Но люди делали другое – они считали влияние на явку. Одним пользователям сверху ленты показывали плашку, типа – "иди выборы!" Другим ту же плашку, но с фотографиями френдов, которые этот призыв поддержали. И вторая плашка работала достаточно эффективно, а первая почти не работала. Оказывается, что-то такое проделывали с индийскими какими-то выборами, и да, это работает. Реклама вообще работает вопреки нашим представлениям о том, что мы выбираем себе машину или телефон из чистых рациональных соображений.

– Через свои социальные сети мы формируем свою картину мира, которая, вероятно, сильно отличается от реальной. Насколько этот разрыв является проблемой?

– На самом деле, это и есть единственная наша реальность. Есть такая социологическая теорема Томаса: вещи, которые мы считаем реальными, имеют реальные последствия. Если кто-то верит в летающего макаронного монстра или какого-нибудь большого монотеистического Бога, для него эта вера – причина его поступков. Он будет запрещать своему сыну жениться на еврейке или наоборот, будет требовать соблюдения каких-нибудь невероятно важных норм насчет секса до брака, а есть ли на самом деле летающий макаронный монстр – это дело десятое. То, что люди мобилизованы новостями в Фейсбуке, есть единственная причина их поступков. То, что на самом деле у семейного насилия жертв в 10 раз больше, чем об этом знают люди в пузыре, называющем феминисток "митухами", никак не влияет на их поведение, к сожалению. Потому что всё, что их касается в этом смысле, всё, что влияет на то, как они будут голосовать, как они будут себя вести и так далее, они узнают из этого перевернутого, неправильного, искаженного рупора. И без Фейсбука было то же самое: бабушки рассказывают, что в Советском Союзе не было терактов и не падали самолеты, потому что им не рассказывали про то, что падали самолеты и были теракты. Но с Фейсбуком, хотя вы и легко можете все узнать и про пассажирский самолет, и про семейное насилие, тем не менее, алгоритмы, гены, все что угодно работает на то, чтобы вы этого не узнали, как это ни парадоксально. Вся информация на расстоянии вытянутой руки, но у нас нет никакой возможности протянуть руку. Такой странный сонный паралич.