- В Китае строят цифровую диктатуру с системой тотальной слежки и социального рейтинга граждан: возможно ли подобное в России?
- Информацию о гражданах собирают государство, банки, сотовые операторы, рекламные компании, магазины.
- Развитие интернет-среды и интернет-технологий дает государству и корпорациям все больше и больше возможностей для слежки.
- Интернет - океан свободы, но только для тех, кто грамотно распоряжается этой свободой.
Сергей Медведев: Будущее наступило в Китае, и это далеко не то будущее, которого нам всем хотелось бы. Я говорю о цифровом авторитаризме, цифровом Большом брате. Это система тотальной слежки, социального рейтинга, все те страшилки, которыми пугают нас различные статьи в течение последних нескольких лет. Движется ли Россия в том же направлении? Что вообще может государство и интернет в порядке наблюдения за нами? Подробности в сюжете Светланы Осиповой.
Светлана Осипова: Информацию о нас собирают государство, банки, сотовые операторы, рекламные компании, магазины. В сети появляются новости об утечках информации о клиентах и пользователях. Нас уверяют в том, что различные структуры ведут активную работу, чтобы обеспечивать конфиденциальность личных данных граждан. Одна из мер - установка на все компьютеры, ввозимые в Россию, отечественного антивируса. С этой инициативой выступило Минкомсвязи.
Банк России тем временем заявляет о том, что разрабатывается новая база данных - "Цифровой профиль гражданина". Информация о доходах, налогах, оплате коммунальных услуг и продаже недвижимости - все это будет храниться в электронном виде в "Цифровом профиле". Доступ к нему будет как у государственных, так и у коммерческих структур (у последних - с согласия самого гражданина). Как будут работать нововведения, пока неизвестно. На вопрос, защитят ли они информацию и сделают ли бюрократические процедуры проще или станут политическим механизмом, ответа пока нет.
Сергей Медведев: У нас в гостях Иван Бегтин, директор АНО "Инфокультура", и Артур Хачуян, генеральный директор SocialDataHub.
Меня уже не первый месяц волнует китайский эксперимент и вообще огромное цифровое наблюдение за человеком. Насколько это все является не просто страшилкой из "Черного зеркала", а нашим ближайшим будущим?
Артур Хачуян: Данные собираются уже достаточно давно всеми, кому только ни лень, не только государственными структурами, но и частным бизнесом. Я лично верю в то, что китайская история все-таки где-то на 60-70% состоит из страшилок.
Сергей Медведев: Там же есть вполне реальные люди, которые не могут купить билет на самолет или на скоростной поезд, которым отказывают в кредитах.
Артур Хачуян: Да, это так. Но здесь вопрос скорее в этике, чем в алгоритмах, то есть в том, что государство приняло такое решение — не выпускать за границу людей, у которых, например, нет денег. И уже второй вопрос, как собрали данные об этом.
Китайская модель с социальными рейтингами гораздо мягче того, что в России используется уже десятки лет
Иван Бегтин: Это по большей части страшилки. Надо понимать, что китайская модель с социальными рейтингами гораздо мягче того, что в России используется уже десятки, если не сотни лет - в банках, в том числе. У нас все работает по черным спискам. Если вы получили судимость, то до тех пор, пока вы ее не погасите, для вас закрыты двери в большую часть коммерческого бизнеса, вы не можете работать на госслужбе, у вас очень много ограничений. Если у вас нет профильного высшего образования, вам перекрыты многие социальные лифты. Вас могут лишить прав на длительный срок и даже навсегда.
В Китае есть много разных факторов. Предположим, вы всегда были примернейшим гражданином, но случайно нарушили правила дорожного движения. Если есть модель скоринга, то вас, может быть, не лишат прав навсегда, у вас на какой-то момент возникнут некоторые ограничения, и вам будет известно, как это исправить. А в России, если вы совершили правонарушение, получили непогашенную судимость, вы оказываетесь в этом списке надолго. То же самое, кстати, касается черных списков с невыплатой алиментов, с невозможностью выезда из страны.
Сергей Медведев: Список Росфинмониторинга на экстремизм: даже если люди просто попали под подозрение, то у них отрубается все.
Иван Бегтин: Есть банки, в которых у вас открыты счета, есть операции, которые вы проводите по банковским картам, есть история с вашим передвижением — это сотовые операторы. Есть компании, находящиеся в России и соответствующие российскому законодательству, у которых всегда можно запросить о вас информацию ("Яндекс", "Мейл.ру"), вашу переписку, факт вашего входа на определенные сайты.
Сергей Медведев: Замечательная история была на прошлой неделе: искусственный интеллект оштрафовал китаянку за переход на красный свет, а это было просто ее изображение в рекламе на автобусе.
Артур Хачуян: Любой алгоритм — это отражение нас самих. Были некие люди, которые приняли управленческое решение в государстве, просто алгоритм это делает быстро и очень точно. Когда специалисты начали копаться в этом рейтинге, появилась информация о том, что анализируются некие социальные действия, какие — нигде никакими разработчиками не описывалось. Соответственно, либеральные журналисты решили, что речь идет о том, что если ты пишешь что-то плохое про президента, тебя не выпускают из страны. Соответственно, если сложить одно с другим, получается черный вариант "Черного зеркала".
Сергей Медведев: Мы помним последний скандал с Фейсбуком, когда были проданы профайлы трех миллионов пользователей.
Иван Бегтин: Когда мы говорим "продать", это не означает, что кто-то берет и продает кому-то базу данных. На основе этого делаются продукты, корректируется маркетинговая стратегия.
Артур Хачуян: Как у Гугла, так и у Фейсбука крупнейший источник денег — это продажа рекламы. Например, никто не продает вашу личную переписку в Фейсбуке, но, анализируя ее, мы делаем определенные метки, что вы ездили в такой-то город или интересуетесь детскими колясками, а потом показываем вам эту рекламу. Недавно всем моим сотрудникам Фейсбук заблокировал аккаунты за то, что мы помогаем Кремлю, разбираемся в этой проблеме. В Евросоюзе идет сильная борьба с Фейсбуком, они пытаются его заблокировать, потому что Фейсбук не раскрывает механизмы продажи данных. Фейсбук это делает по одной простой причине: во-первых, они - частная компания. Во-вторых, как только они раскроют и сделают механику перепродажи данных прозрачной, все сразу узнают, сколько на самом деле стоит реклама, и какая маржа у Фейсбука в этой рекламе. Фейсбук этого не хочет, поэтому они всячески пытаются избежать раскрытия подобных алгоритмов.
Сергей Медведев: А этим занимаются все крупнейшие платформы?
Иван Бегтин: Сейчас все крупнейшие компании на самом деле - не IT-компании. Только Apple и Microsoft имеют значительную долю: у Apple оборудование, у Microsoft программное обеспечение. Все это дата-корпорации. Их модель жизни основана на том, что они собирают, покупают, разными способами добывают всю информацию об окружающей действительности, в первую очередь о людях. По сути, это крупнейшие маркет-мейкеры массового общества потребления, рынка потребления, управляют этим они.
Сергей Медведев: Нет ли таких больших Левиафанов, Старших братьев, которые захотят это систематизировать? Я даже не говорю государство, но, скажем, банк, кредитное агентство, рейтинговое агентство? Вот, например, в Китае: смотрите, это хороший человек, на протяжении последних пяти лет он покупал детские пеленки, рожая ребенка за ребенком - давайте повысим ему кредитный рейтинг. А у этого все деньги пошли в винный супермаркет.
Стоит ли конечному пользователю беспокоиться по тому поводу, что есть некий агент или искусственный интеллект, который начнет систематизировать всю информацию обо нем, все его покупки, перемещения, звонки, посты в Фейсбуке, лайки, шеры и так далее, и на основе этого составит какое-то ложное мнение о нем?
Артур Хачуян: Ничего страшного с этим человеком не случится, потому что в любом случае никто не создаст и не внедрит алгоритмы, которые будут давать тюремные сроки до того, как человек что-то совершит.
Сергей Медведев: Он может послать сигнал Центру Э, и судьба человека будет поломана после того, как с ним поговорит Центр Э. Этот человек точно так же столкнется с проблемой в Шереметьево, не получит кредит.
Иван Бегтин: Вы правильно боитесь государства в использовании технологий, но боитесь почему-то совсем не тех. Разумеется, не Центр Э будет основным потребителем всех этих алгоритмов. Центр Э в лучшем случае дозреет до этого лет через десять. Вы очень оптимистично смотрите на информатизацию силовых органов. Надо определиться: либо вы про то, что там есть коррупция, либо про то, что там есть Большой брат. Если про то, что там есть коррупция, то давайте забудем про Большого брата. Если про Большого брата, то давайте верить, что коррупции там нет, потому что иначе все деньги на него будут распилены.
Сергей Медведев: По-моему, там немножко и того, и другого. Когда нужно, они максимализируют свой силовой ресурс.
Гугл очень много раз ловили на том, что он манипулирует восприятием пользователей перед выборами
Артур Хачуян: Иван говорит, что нужно бояться не государства, а корпораций. Гугл очень много раз ловили на том, что он манипулирует восприятием пользователей перед выборами. Частная IT-компания, манипулируя поисковой выдачей, может выбрать того или иного кандидата, она никому не подвластна, и с этим ничего не сделаешь, потому что ни одно антимонопольное законодательство ни одной страны к этому не применимо.
Сергей Медведев: Сейчас идет расследование по Фейсбуку. Вы верите, что Фейсбук действительно манипулировал мнением миллионов американцев?
Иван Бегтин: Такие возможности у Фейсбука, безусловно, есть. В странах, в которых свобода корпораций значительно выше, государственное влияние значительно ниже: например, в США влияние Фейсбука и Гугла значительно выше, там корпорации устанавливают правила. В России мы, безусловно, не будем подозревать Яндекс в манипуляции по собственной воле - наверное, только если его сильно попросят. Но Яндекс может устанавливать разные цены на поездки в такси и манипулировать в зависимости от того, являетесь вы лояльным пользователем или нет.
Сергей Медведев: Фактически он может выдать разную цену на поездку на такси человеку, проанализировав его финансовую информацию.
Артур Хачуян: По поводу Кембридж-аналитики: что сделала конкретная компания в конкретной ситуации? Она создала ряд свободных тестов в Фейсбуке. Люди проходили эти тесты, соглашаясь с политикой, которую они не читали, а там было четко написано, что данные будут использоваться для маркетинговых и рекламных исследований. Самый худший сценарий, который они организовали — это они делали контекстную рекламу каким-то определенным группам пользователей. Я лично не верю в то, что это способствовало избранию президента: процентов 10-15%, может быть, добавило, но не прямо 100%.
Сергей Медведев: Я вступлюсь за тех, кто обвиняет Кембридж-аналитику: в данном случае это была торговля влиянием. Был использован ресурс ради достижения политических целей, что само по себе является правонарушением.
Артур Хачуян: Вопрос в том, повлияло ли это на умы пользователей, стали ли они дальше читать пользовательские соглашения. Вот, на мой взгляд, самая страшная проблема современности: люди устанавливают приложение для того, чтобы посмеяться, как ты назван у друзей в записной книжке, а по факту дают разрешение на отправку всех имейлов и телефонов в некое приложение. В соглашении написано: собираем данные, ответственности не несем, зарегистрированы в Латвии, будем использовать данные для рекламных целей без ограниченного уведомления пользователя.
Сергей Медведев: Цифровой профиль гражданина - насколько эта информация может быть использована нам во вред, в ущерб, что это будет за информация, какие здесь плюсы и возможные риски?
Иван Бегтин: Главный потребитель по алгоритмам, по новым сервисам — это, конечно, налоговая служба. Рассчитывать на то, что вы можете каким-либо способом получить доход и не заплатить за него налоги, в будущем не стоит, только если вы совсем перейдете на наличные, и если Центральный банк все-таки не внедрит систему отслеживания каждой купюры. Безусловно, инициативы по самозанятым, по мониторингу транзакций в банках, по внедрению систем фискальных платежей, которые собирают данные, - все это системы, долгосрочно нацеленные на мониторинг всего оборота, всех наличных и безналичных средств.
Сейчас очень много областей, в которых люди не платят налоги — это то, что относится к теневой экономике, аренда жилья и много других личных платежей. Все боятся, что банки начнут запрещать переводы, что-то еще. Пока это страшилка, но рано или поздно будет блокировка, взимание налогов, когда налоговая служба сможет это явно подтвердить. Поэтому, что касается цифрового профиля, безусловно, некоторые удобства он гражданам даст.
Чем больше информации будет знать о вас государство, тем больше будет доступа банков к скорингу, и банки в данном случае получают возможности минимизировать свои риски за счет ваших. Чем больше они знают о том, какие риски у вас возникают (платите ли вы, например, своевременно за услуги ЖКХ), тем больше вероятность, что они могут не дать вам кредит или дать по невыгодной вам ставке. Все механизмы раннего управления рисками, которые были в страховом бизнесе, перестраиваются так, что потребитель услуг находится в более слабом положении, чем предоставляющие их.
Представьте себе, страховая компания может получить информацию о состоянии вашего здоровья и будет устанавливать вам процентную ставку, исходя из тех рисков, которые у вас есть, в том, числе генетических заболеваний. В США есть такой термин "генетическая дискриминация": вас могут просто не взять на работу, если у вас есть вероятность болезни Альцгеймера через некоторое время. Тем самым позиция гражданина становится более слабой.
Это новое цифровое неравенство. Государство во всем этом — догоняющий игрок. Государство в определенный момент видит: у Гугла что-то получается, у Яндекса получается, Фейсбук это может: давайте мы тоже попробуем, может быть, и у нас что-то получится.
Сергей Медведев: Тогда получается, что государство сбрасывает свои социальные обязательства. То есть если сначала это сделали Гугл и какие-то крупные корпорации: это несовершенный пользователь, давайте повысим кредитную ставку или страховую премию, - то то же самое может сделать и государство: смотрите, он богатый Буратино, чего мы будем платить ему пособие по безработице и высокую пенсию?
Иван Бегтин: Предположим, вы являетесь владельцем двух десятков квартир и еще получаете пособие по безработице. Государство, лишающее вас этого пособия, будет заниматься выравниванием социальной справедливости относительно людей, которым не хватает денег, или, наоборот, оно должно вам его платить?
Артур Хачуян: Как только у кого-то отберут страховку, сразу скажут, что страшные алгоритмы испортили людям жизнь.
Артур Хачуян: Рано или поздно цифровой профиль перейдет в цифровой скоринг, а цифровой скоринг перейдет в цифровое предсказывание того, что ты еще не совершил. По большому счету здесь все равно все основано на решениях, которые примет государство в этом конкретном вопросе. Если государство решит следить за кем-то, оно будет это делать: неважно, через социальные сети, или оно будет покупать данные из открытых источников, или отправит агента.
Сергей Медведев: Важно, будет ли государство дискриминировать этого человека (это то, что происходит в Китае).
Иван Бегтин: Здесь не стоит говорить о том, что прямо сейчас у государства есть большая мотивация для слежки: у него есть мотивация оптимизации социальных обязательств. Это не всегда сокращение, скорее некоторое преобразование, персонификация. Где-то это завязано на дефицит бюджета: государство действительно пытается на нем сэкономить, отказаться от части социальных обязательств, - а где-то реально связано с тем, что государство не знает, что там происходит.
Сергей Медведев: Антивирусы — это скрытый агент внутри каждого компьютера, который перехватывает всю вашу информацию, где-то ее собирает и куда-то отправляет?
Иван Бегтин: Почему скрытый? Это вполне открытый агент.
Артур Хачуян: Думаю, из всех приложений, которые устанавливают себе пользователи, антивирус - самая прозрачная и ничего не передающая программа, потому что антивирус первым делом проверяют независимые эксперты на предмет того, что передается куда-то на сторону. Условный фоторедактор может собирать и отправлять куда-то гораздо большую информацию, потому что у них никто никогда не читает соглашение.
Иван Бегтин: Антивирусы в большинстве случаев уже не нужны, дополнительный антивирус ставят только параноики. Часто важнее не антивирус, а система обновления. Специалист по безопасности расскажет вам, что важнее правильное магистральное оборудование на сервисе провайдера, который отсекает 90, если не больше, процентов атак. С точки зрения глобальной безопасности мало кого волнует ваш конкретный компьютер, главное, чтобы утечка вируса могла быть перекрыта на уровне провайдера. Компания Касперского — одна из крупнейших антивирусных компаний в мире, они десятки лет строили бизнес. У них уже штаб-квартира в Швейцарии. Они, как и все компании, играют разные роли во многих театрах, поэтому в России они говорят: мы российские, - бьют себя в грудь, просят дать им больше возможностей. Но в мире они говорят: мы вообще не имеем никакого отношения к России. И это действительно компания мирового уровня с российскими корнями, но она меньше российская, чем тот же Яндекс.
Сергей Медведев: Яндекс, Касперский, ваша компания напрямую сотрудничают, если к ним приходят люди из ФСБ, из ГРУ? Ведь это компании, находящиеся на переднем крае гибридной ситуации, и было бы наивно предполагать, что они не выполняют какие-то особые поручения государства.
Артур Хачуян: Мы печально известны тем, что сотрудничаем с государством. Мы разрабатываем софт, который продаем государству. У нас 80% бюджета — государственные заказы. Мы этого не стесняемся. Мы не знаем, что делает государство с нашим программным обеспечением для обработки и структурирования информации. Мы разрабатываем программы для поиска всяких плохих ребят, для умных городов и так далее. Конечно, их можно использовать как угодно.
Иван Бегтин: Давайте будем честными: большая часть корпораций, так или иначе присутствующих в России, замечательным образом публично и не публично сотрудничают со всеми спецслужбами. Многие сервисы, в том числе Гугл, публикуют "Трансперенси репорты", где есть и сообщения о том, как им поступают запросы из России.
Артур Хачуян: Telegram недавно обновил политику конфиденциальности, сказав, что все-таки будет сотрудничать с российским государством.
Большая часть корпораций, так или иначе присутствующих в России, публично и не публично сотрудничают со всеми спецслужбами
Иван Бегтин: Правильно исходить из того, что в принципе, даже если вы хотите мониторить деятельность государства, вы все равно будете мониторить деятельность корпораций. Государство неспособно создавать конкурентную инфраструктуру, ее создают компании.
Сергей Медведев: Многие правительства (так сейчас поступает Китай) могут требовать от разработчиков оставлять лазейки, через которые в любом программном обеспечении агент государства может зайти и отследить всю информацию.
Артур Хачуян: Все зависит от влияния конкретного государства на конкретную компанию. Китай просил Гугл удалять какую-то информацию с его поисковика, Гугл взял и на восемь лет ушел из Китая, и ничего при этом не потерял. В Китае развился собственный рынок поисковиков. Сейчас Гугл пытается туда вернуться, дал согласие на то, что будет фильтровать политически неугодные новости, но он там уже мало кому нужен.
Иван Бегтин: Во всех более-менее развитых странах мира, имеющих хоть какой-то бюджет и технологии, есть сильная госполитика на усиление контроля за всем, что происходит в интернете, хотя бы в их зоне. Некоторые страны, имеющие глобальную повестку (Евросоюз, США), пытаются лезть за пределы, Китай уже полез. Некоторые маленькие страны, вроде России, такой возможности не имеют. Некоторые совсем маленькие страны просто находятся исключительно в сателлитной зависимости. Но у всех такая политика. В США раз пять или шесть были попытки внедрять сдачу ключей шифрования, понижение качества шифрования для всех экспортируемых алгоритмов и многое другое. У них есть очень сильное внутреннее бизнес-лобби.
С одной стороны, мы говорим, что Гугл — это, условно говоря, плохо, потому что он собирает информацию. С другой стороны, можно сказать, что Гугл — это хорошо, потому что когда государство начинает пытаться затягивать гайки в плане контроля, сдачи ключей и так далее, крупные корпорации начинают сопротивляться. Они не хотят, чтобы об их деятельности знали другие, чтобы к их каналам получения данных подключался кто-то еще, они защищают все это. Поэтому во многих случаях там происходит постоянный баланс противодействия интересов.
Если бы Роскомнадзор действовал исключительно в пользу приватности граждан, он давно заблокировал бы Фейсбук в России и Telegram не предупреждал бы, не устраивал это шоу, а просто в один момент заблокировал. Почему они не могут это сделать? Потому что, в отличие от Китая, Россия не способна сформировать целостную инфраструктуру, заменяющую Гугл, Apple, Microsoft и всех остальных. Китай может. Китай смог понудить даже Microsoft, играя в создание китайских операционных систем.
Артур Хачуян: Великий золотой китайский "Файрвол" не в один прекрасный момент опустился и отключил Китай от всех международных серверов: они долгое время разрабатывали свою собственную экосистему, платежные, поисковые системы, социальные сети. И только потом, когда туда перешла большая часть населения, они смогли с легкостью отключить мир. Мне задают вопрос: когда нас отключат от глобального интернета?
Сергей Медведев: В Китае, как говорили специалисты, есть, условно говоря, один рубильник. В России такого рубильника нет.
Иван Бегтин: На самом деле есть - он находится на электростанциях.
Артур Хачуян: Помните, когда Роскомнадзор представительно боролся с Telegram, полегла куча сервисов. Росконадзор заблокировал публичные облака "Амазона", и оказалось, что помимо частных сервисов на внешних облаках, которые лежат где-то в Америке, упали серверы у банков и еще у кого-то. Вопрос о том, что если нас отключат от глобального интернета, может быть, и у Госуслуг что-нибудь поляжет.
Сергей Медведев: Действительно, развитие интернет-среды и интернет-технологий дает государству и корпорациям все больше и больше возможностей для слежки. Но, с другой стороны, появляется и обратная прозрачность. Все мы видели историю последнего года относительно ГРУ: как накапывается информация продвинутыми любителями, вплоть до телефонных справочников, паспортов, прав и так далее.
Иван Бегтин: Давайте будем честными: большая часть того, что накапывают независимые журналисты — это не открытые источники. Обычно спецслужбы сливают журналистам информацию, и журналисты делают расследование, которое является легализацией слитой информации. Это тоже некая профессиональная работа, но другого рода. Bellingcat - довольно интересная группа расследователей, но я подозреваю, что в некоторых случаях их расследования притянуты за уши.
Сергей Медведев: В целом, глядя на рынок всех персональных данных, которые сейчас существуют, и сравнивая их с данными десятилетней давности, можно сделать вывод: идет к тому, что интернет, вся эта среда все больше закрепощает нас, все больше делает подверженными влиянию мегамонстров, корпораций, государств, спецслужб? Мы все больше находимся под колпаком? Или наоборот, лет 10-20 назад была идеология, что интернет - океан свободы, он даст нам неограниченную информацию, мы будем контролировать государство.
Артур Хачуян: Он и сейчас океан свободы, но для тех, кто грамотно распоряжается этой свободой.
Иван Бегтин: Главная заслуга крупнейших корпораций в том, чтобы вы сами дали информацию в обмен на комфорт и на удобство. Вот вы можете сейчас сломать свой айфон и перестать им пользоваться? Или перестать пользоваться компьютером? Это стало частью вашей жизни. Частью вашей жизни стала и слежка за вами. Это часть нашей реальности. Здесь самое сложное - дети. Если мы с вами застали хоть какую-то часть офлайновой жизни, то сейчас все цифровое поколение находится в социальных сетях чуть ли не с момента рождения. И если кто-то в пубертатный период...
Артур Хачуян: …сделает ошибку, то удалить ее будет уже невозможно.
Сергей Медведев: В годовщину оруэлловского романа можно повторить то же самое — "Большой брат следит за тобой". Сейчас, в эпоху сетей, эти слова стали еще более актуальны, чем когда-либо. Это наша плата за комфорт.
