О ком больше писала "фабрика троллей" – о Путине или о Трампе? Как тролли отреагировали на убийство Бориса Немцова и отравление Скрипалей? 17 октября Twitter выложил в открытый доступ архив из 9 с лишним миллионов твитов, которые, как утверждает администрация сервиса, были написаны и распространялись российским "Агентством интернет-исследований" близкого друга Владимира Путина Евгения Пригожина. Публикация сделана в рамках кампании Twitter по борьбе с возможными новыми случаями вмешательства России в американские выборы. Опубликованный массив данных интересен прежде всего своим всеобъемлющим характером: как утверждает администрация Twitter, это практически все твиты, опубликованные аккаунтами "фабрики троллей" с 2013 по 2018 год.
Помимо 9 миллионов твитов российской "фабрики троллей" Twitter опубликовал также более миллиона твитов, размещенных, как утверждается, иранскими властями – для создания положительного образа этой страны на Западе. В иранской кампании, по данным Twitter, участвовали почти 800 аккаунтов, в российской – почти 4 тысячи. Некоторые из них были созданы еще в 2009 году, но активно твитить начали лишь в 2012-м: тогда "фабрика троллей" работала в основном по внутренней российской тематике, а главными ее целями были российские оппозиционеры.
Большинство аккаунтов, попавших в базу данных, уже были "засвечены" как принадлежащие "фабрике троллей": это далеко не первая подобная публикация, хотя раньше исследователям приходилось искать удаленные ныне твиты "фабрики" окольными путями, например, на основе опубликованного год назад доклада Конгресса США о вмешательстве России в выборы.
Бывшее здание "фабрики троллей" на улице Савушкина в Санкт-Петербурге
Не является новым для исследователей и содержание опубликованных твитов, а также способы маскировки аккаунтов "фабрики" под американские. Анализ лишь подтверждает то, что уже было известно ранее: переключившись на американскую политику накануне президентских выборов в США, "фабрика троллей" поставила своей целью максимальную поляризацию общественного мнения перед голосованием, поддержку самых радикальных нарративов с обеих сторон политического спектра и подрыв веры американских граждан в институты власти (не считая операции по взлому компьютеров функционеров предвыборной кампании Хиллари Клинтон, в осуществлении которой американские власти обвиняют российских хакеров, связанных с бывшим ГРУ).
Лаборатория цифровой криминалистики при нью-йоркском исследовательском центре "Атлантический совет" (Atlantic Council Digital Forensic Research Lab, DFRL) официально получила от Twitter доступ к архиву выявленного и удаленного соцсетью контента "фабрики троллей" еще до его публикации. В серии статей эксперты DFRL объясняют ключевые вещи, которые им удалось узнать из этого архива или подтвердить благодаря его публикации.
- Изначально "фабрика троллей" фокусировалась на российской политике, но возможности, заложенные в систему при ее создании, позволили с легкостью переключиться на зарубежные аудитории.
- У "фабрики троллей" было несколько целей, которые со временем эволюционировали. Одной из главных целей было вмешаться в выборы и предотвратить победу Хиллари Клинтон, но действия троллей были также направлены на поляризацию общественного мнения в интернете и подрыв веры в американские институты власти.
- Российские тролли не поддерживали какую-то одну партию в США. Они разжигали радикальные настроения как среди демократов, так и среди республиканцев.
- "Фабрика троллей" использовала теракты и различные резонансные события в мире, чтобы повлиять на политику в других странах, в том числе – в Европе накануне референдума по "Брекзиту" и во Франции во время предвыборной кампании, по итогам которой главой страны стал Эммануэль Макрон (подробнее о вмешательстве России во французские выборы читайте здесь).
- Российские тролли эволюционировали и учились на своих ошибках. Их деятельность в 2018 году очень отличается от деятельности в 2014-м.
- Ограниченный уровень влияния: не стоит преувеличивать степень, в которой контент "фабрики" повлиял на ситуацию в США и тем более в странах Европы. Несмотря на то, что некоторые аккаунты стали довольно популярными, имели большой охват, а их твиты ретвитили известные политики и лидеры общественного мнения, в целом эффективность деятельности троллей была невысокой, а количество ретвитов низким.
О своих выводах после изучения опубликованного Twitter массива данных Радио Свобода рассказал эксперт Digital Forensic Research Lab Бен Ниммо:
– Это не первая публикация базы данных с твитами, приписываемыми "фабрике троллей". Что отличает ее от предыдущих?
– Этот архив данных дает полную картину. Раньше мы могли видеть лишь твиты "фабрики тролллей", задним числом восстановленные исследователями после их удаления. В феврале этого года 200 тысяч твитов опубликовал телеканал NBC News, затем еще одна группа исследователей опубликовала 3 миллиона твитов. Сейчас, как говорит Твиттер, опубликованы они все: более 9 миллионов твитов. Это полная база данных, дающая нам законченную картину действий российской "фабрики троллей".
– Почему, как вы думаете, Твиттер пошел на этот шаг?
– Об этом лучше спросить их самих, но похоже, что они решили продемонстрировать свою прозрачность и показать исследовательскому сообществу полную картину произошедшего. Для понимания нами того, как работала "фабрика троллей", важно увидеть, как они работали, как они развивались и, в частности, как они создавали свою аудиторию. Поэтому доступ к полной базе данных этих твитов – это по-настоящему важный шаг на пути к пониманию того, как остановить эти действия в будущем.
– У вас была возможность изучить этот массив данных заранее. Каковы ваши ключевые находки, в частности, относительно реального влияния, которое оказали эти твиты?
– Есть несколько ключевых моментов. Во-первых, оказалось, что пик активности троллей приходится на гораздо более ранний период, чем мы думали, – с середины 2014 года до начала 2015-го. Большинство твитов в этот период были написаны на русском языке, а не на английском. Надо помнить, что изначальной целью "фабрики троллей" были россияне. Это и атаки на оппозицию, и распространение пропаганды в русскоязычном пространстве. Это по-настоящему важно помнить: в первую очередь это была история про Россию и россиян. Что касается влияния, то это во многом было делом случая. Время от времени тролли пытались оказать какое-то влияние в Великобритании и Франции, но это не было последовательной тактикой и не похоже, чтобы они смогли на что-то реально повлиять. В США они делали это на протяжении гораздо большего времени, с гораздо большим усилием и добились гораздо лучших результатов. Например, один единственный твит, написанный в день американских выборов о том, что машины для голосования настроены в пользу Хиллари Клинтон, набрал более 25 тысяч ретвитов. Это показывает настоящую глубину проникновения и влияния на дискуссии в интернете.
– Существует ли связь между публикацией твитов "фабрики троллей" и крупными событиями, например катастрофой рейса MH17 под Донецком?
День после крушения "Боинга" был самым напряженным для "фабрики троллей" за всю ее историю
– Безусловно, и на самом деле день после крушения "Боинга" был самым напряженным для "фабрики троллей" за всю ее историю. Интенсивность, с которой они твитили за день до катастрофы, примем это за базовый уровень их активности – 19 тысяч твитов. После катастрофы аккаунты "фабрики" сделали 57 тысяч твитов. В три раза больше, так много они никогда не твитили ни до, ни после этого. Все эти твиты группировались вокруг трех хештегов: #КиевСбилБоинг, #ПровокацияКиева и #КиевСкажиПравду. Это было массовое усилие, предпринятое в попытке обвинить в произошедшем Украину.
– Какие еще события вызывали такую реакцию "фабрики троллей"?
– Событий, которые вызвали бы реакцию такого масштаба, больше не было, но тролли активно реагировали на некоторые новости. Они были очень активны после терактов в Брюсселе, когда они делали твиты с хештегом #IslamKills ("ислам убивает"). Они были активны после массового убийства в Сан-Бернардино в декабре 2015 года, когда одни тролли делали посты о том, что "Америке нужно больше оружия", в то время как другие, напротив, твитили призывы усилить контроль за его распространением. Они были очень активны после закончившегося гибелью одного из протестующих марша в Шарлотсвилле в августе 2017-го. В тот момент твиты "фабрики троллей" в основном выражали поддержку американским ультраправым. Каждое такое событие было для них очень важным. Они усиливали свою активность во время дебатов в ходе кампании по выборам президента США – как во время дебатов на праймериз, так и позже, во время дебатов кандидатов в президенты. В эти моменты тролли были очень активны.
Участники марша в Шарлотсвилле, США, штат Виргиния, 8 июля 2017 года
– Исходя из того, что вы увидели, изучая этот массив данных – могут ли эти твиты быть доказательством российского вмешательства в американские выборы?
– Да.
– Но в то же время вы пишете, что влияние этих твитов было довольно низким. Были ли известные люди, политики, которые принимали твиты "фабрики троллей" за чистую монету и ретвитили их?
Их несколько раз ретвитил даже Джек Дорси, основатель Твиттера
– Были, причем как с правой, так и с левой стороны политического спектра. Например, одна из самых заметных и громких сторонниц Дональда Трампа, Энн Коултер, несколько раз ретвитила один за другим твиты "фабрики троллей". Их несколько раз ретвитил даже Джек Дорси, основатель Твиттера. Но когда мы говорим о влиянии этих твитов, надо помнить, что они были лишь маленькой частью большой кампании. "Фабрика троллей" одновременно вела аккаунты не только в Твиттере, но и в Инстаграме, в Фейсбуке, на Reddit, в Ютюбе, взаимодействуя при этом с такими прокремлевскими СМИ, как RT и "Спутник". Еще важнее, что в этом участвовало ГРУ, российская военная разведка, которая взломала почту функционеров предвыборной кампании Демократической партии. Взлом этой почты и ее последующий слив имел огромное влияние на предвыборную кампанию. В особенности когда "Викиликс" каждый день, начиная с месяца до дня голосования, публиковал электронные письма менеджера предвыборной кампании Хиллари Клинтон. Тролли продвигали это очень эффективно, и крупные СМИ по всему миру клюнули на эту удочку, еще больше усилив своими публикациями эффект от обнародования этих писем. Так что если посмотреть на российскую кампанию в целом, она оказала абсолютно реальное влияние на выборы. Твиттер был лишь частью этой кампании, там она шла с переменным успехом. Но вы всегда должны помнить, что Твиттер был лишь частью пазла.
– В сентябре 2017 года, когда деятельность "фабрики троллей" была раскрыта российскими журналистами, Твиттер закрыл многие ее аккаунты. Вы пишите, что после этого "фабрика" смогла восстановить свои силы. Как вы считаете, удастся ли ей это теперь? Продолжает ли "фабрика троллей" свою работу в Твиттере сейчас?
Тролли с каждой новой итерацией все лучше маскируются и скрывают следы
– Это большой вопрос. Мы знаем, что они потеряли свои основные аккаунты в 2017 году, после чего была "вторая волна", когда они создали новые. В общем и целом аккаунты из этой "второй волны" уже не были столь эффективны и им не удалось завоевать столь широкой аудитории, и они были закрыты Твиттером летом 2018-го. Мы знаем, что они не оставили попыток в прошлый раз, но большой вопрос заключается в том, сдались ли они теперь или решили попробовать снова. Я подозреваю, что решили попробовать. Мы видим, что тролли с каждой новой итерацией все лучше маскируются и скрывают следы, предпринимают контрмеры. Ответить на вопрос, продолжает ли "фабрика троллей" свою деятельность, – это серьезный вызов для всего расследовательского сообщества и для самих соцсетей и платформ, – говорит Бен Ниммо из Лаборатории цифровой криминалистики при нью-йоркском исследовательском центре "Атлантический совет".
Радио Свобода изучило архив твитов "фабрики троллей" и обнаружило в нем несколько любопытных примеров того, как российские власти – если допустить, что за "фабрикой" стоят именно они, – реагировали на те или иные события или продвигали те или иные фейки.
Так, 18 июля 2014 года, во время "самого насыщенного дня в истории фабрики троллей", о котором говорит Бен Ниммо, десятки твитов рекламировали статьи российских сайтов об испанском диспетчере Карлосе, который якобы видел на радарах рядом с "Боингом" два украинских истребителя. Впоследствии журналистам корпорации Радио Свобода/Радио Свободная Европа удалось разоблачить этот фейк и найти настоящего "Карлоса" – им действительно оказался испанец, отсидевший несколько лет в румынской тюрьме по обвинению в мошенничестве, но не имеющий никакого отношения к авиации.
Целая волна твитов последовала 13 октября 2015 года за публикацией доклада Совета безопасности Нидерландов, в котором утверждалось, что "Боинг" был сбит ракетой, выпущенной из установки "Бук" с подконтрольной сепаратистам "ДНР" территории. В основном в этих твитах продвигалась альтернативная версия, выдвинутая производителем "Буков", российским концерном "Алмаз-Антей". В ней на основе результатов "натурного эксперимента" утверждалось, что самолет сбили из района населенного пункта Зарощенское, который находился под контролем украинской стороны. Впоследствии эта версия не раз была опровергнута независимыми расследователями, в том числе досконально исследовавшей обстоятельства трагедии расследовательской группой Bellingcat.
Не боялись тролли писать и о "ЧВК Вагнера", с которой связывают хозяина "фабрики" Евгения Пригожина: после того, как Дмитрия Уткина (Вагнера) заметили на приеме в Кремле вместе с Владимиром Путиным, аккаунты пригожинских троллей активно продвигали статьи (один из примеров – здесь) с цитатами Сергея Доренко, назвавшего "вагнеровцев" "героями".
Владимир Путин, Дмитрий Уткин (крайний справа) и другие предполагаемые руководители "ЧВК Вагнера" на приеме в Кремле
Другие твиты "фабрики троллей", посвященные "ЧВК Вагнера", ссылались на статью в издании "Фонтанка" – но не на одну из тех, в которых бывший журналист издания Денис Коротков раскрывал секреты "вагнеровцев", а на текст о подписании контракта между одной из связанных с Евгением Пригожиным компаний и властями Сирии об охране нефтяных промыслов в обмен на долю добываемой нефти.
Тем не менее, по частоте упоминания (десятки раз) эти примеры не сравнить с главными темами "фабрики троллей": Навальный в базе из 9 с лишним миллионов твитов упоминается почти 6 тысяч раз, "MH17" – 2700 раз, "Боинг" – более 30 тысяч раз. В 23 тысячах твитов упоминается Рамзан Кадыров: в основном ссылки в них ведут на сайты медиаимперии Евгения Пригожина, в которых содержатся положительные оценки работы главы Чечни (причем первые упоминания относятся еще к 2012 году и содержат ссылки на ставшие актуальными спустя 6 лет новости о желании Кадырова вернуть Чечне земли Сунженского и Малгобекского районов Ингушетии).
Сотни твитов были написаны на "фабрике троллей" в первые дни после убийства Бориса Немцова. Интересно, что 28 февраля и 1 марта они содержали ссылки на нейтральные информационные сообщения, в том числе сообщения западных СМИ, а после 2 марта – преимущественно ссылки на "РИА ФАН", другие "пригожинские" сайты и различные прокремлевские СМИ, в которых отвергалась политическая версия убийства.
О том, как "фабрика троллей" переориентировалась с российской новостной повестки на американские выборы, наглядно свидетельствует и частотный анализ упоминания в твитах имен российских и американских политиков. Если Владимир Путин (по-русски) упоминается в них всего 157 тысяч раз, то Дональд Трамп (по-английски) – 531 тысячу (его соперница на выборах Хиллари Клинтон – почти 50 тысяч раз).
В то же время некоторые темы, судя по всему, были исключены из "круга интересов" троллей: так, в массиве данных считаные единицы твитов, посвященных отравлению Сергея и Юлии Скрипаль, – хотя база охватывает период до второй половины июня 2018 года. Возможно, твиты про Скрипалей и инцидент в Солсбери писались с аккаунтов, которые не успели попасть в выборку администрации Twitter.
Twitter обещает и дальше публиковать подобные массивы данных, если выяснится, что Россия не оставила попыток влиять на общественное мнение и политику в других странах с помощью кампаний по дезинформации в этой социальной сети. В четверг о создании специального отдела по борьбе с фейковыми новостями и попытками вмешательства в выборы объявил Facebook: несколько десятков экспертов в области аналитики и программирования будут в первую очередь следить за подозрительными аккаунтами во время намеченных на 6 ноября промежуточных выборов в Конгресс США.