Ой: Кремниевая долина строит систему социального рейтинга в китайском стиле

Вы слышали о Системе социального кредита в Китае? Это общенациональная высокотехнологичная программа, разработанная для наблюдения и призвана стимулировать граждан к лучшему поведению. Конечная цель состоит в том, чтобы «позволить надежным людям бродить свободно под небесами, мешая дискредитированным сделать хотя бы шаг», говорят в китайском правительстве.

С 2014 года Система находится на стадии разработки, и к следующему году она может превратиться в единую общенациональную систему начисления баллов для всех граждан Китая, сродни финансовой системе. Она направлена на наказания за нарушения, например, участие или поддержку Фалуньгун и тибетского буддизма, неуплату долгов, чрезмерное увлечение видеоиграми, критику правительства, несвоевременные платежи, грязный тротуар перед вашим магазином или домом, курение или громкая музыка в поездах, нарушение правил перехода улицы и другие действия, которые правительство Китая считает незаконными или неприемлемыми.

Система также может начислять баллы за благотворительные пожертвования или даже за лечение своих родителей.

Наказания могут быть суровыми, включая запреты на выезд из страны, использование общественного транспорта, размещение в отелях, найм на престижную работу или прием детей в частные школы. Это также может вылиться в более медленную скорость интернета или социальную стигматизацию в форме регистрации в публичном черном списке.

Система социального кредита в Китае была охарактеризована в одном содержательном твите как «геймифицированный тоталитаризм».

В настоящее время некоторые части Системы социального кредитования действуют по всей стране, а другие являются локальными и ограниченными (существует около 40 пилотных проектов, управляемых местными органами власти, и, по меньшей мере, шесть, которыми руководят технические гиганты, такие как Alibaba и Tencent).

Пекин создал два общенациональных списка: черный и красный. Первый состоит из людей, которые совершили преступление, и второй — из людей без проблем («красный список» — коммунистическая версия белого списка). Списки доступны для поиска на государственном веб-сайте под названием China Credit.

Правительство Китая также сотрудничает с технологическими платформами. Так, например, если кто-то критикует правительство на Weibo, его детей могут не принять в элитную школу.

Публичное пристыживание также является частью Системы социального кредитования Китая. Во время одного судебного разбирательства выяснилось, что между видеороликами на TikTok показываются фото людей из черного списка, а на карте в WeChat — адреса нарушителей.

Западные издания пишут, что население Китая задыхается в общенациональном ящике Скиннера с репрессивными поведенческими изменениями. Но некоторые китайцы не знают, что Система вообще существует. А многим другим на самом деле нравится идея. Один опрос показал, что 80% опрошенных граждан Китая в той или иной степени одобряют Систему социального кредита.

Это может произойти и здесь.

Многие жители Запада обеспокоены тем, что они читают о Системе социального кредита в Китае. Но такие системы, как оказалось, не являются уникальными для Китая. Параллельная система развивается в Соединенных Штатах, отчасти в результате политики Кремниевой долины для пользователей, а отчасти благодаря надзору за деятельностью социальных сетей со стороны частных компаний.

Вот некоторые из элементов развивающейся Системы социального кредита Америки.

Страховые компании.

Департамент финансовых услуг штата Нью-Йорк объявил ранее в этом году, что компании по страхованию жизни могут основывать выплаты на информации в соцсетях. Например, фотография из Instagram, показывающая, как вы дразните медведя гризли в Йеллоустоне с мартини в одной руке, сырной тарелкой в другой и сигаретой во рту, может стоить вам компенсации. С другой стороны, пост в Facebook, показывающий, что вы занимаетесь йогой, может сэкономить ваши деньги. (Страховые компании должны продемонстрировать, что доказательства в социальных сетях указывают на риск, а не основываются на какой-либо дискриминации — они не могут использовать посты, например, для изменения выплат в зависимости от расы или инвалидности).

Исследование социальных сетей является продолжением вопросов об образе жизни, которые обычно задают при подаче заявления на страхование жизни, например, занимаетесь ли вы скалолазанием или другими приключенческими видами спорта. Если вы скажете «нет», но затем опубликуете свои фотографии, где в одиночку взбираетесь на скалу Ель Капитан, то это будет расценено как «да».

PatronScan.

Компания под названием PatronScan продает несколько продуктов — киоски, настольные и портативные системы, предназначенные, чтобы помочь владельцам баров и ресторанов следить за поведением клиентов. PatronScan является дочерней компанией канадской компании-разработчика программного обеспечения Servall Biometrics, и ее продукты в настоящее время продаются в Соединенных Штатах, Канаде, Австралии и Великобритании.

PatronScan помогает обнаружить поддельные документы и нарушителей спокойствия. Когда клиенты приходят к стойке, использующей PatronScan, их ID сканируется. Компания ведет список нежелательных клиентов, которых ранее выгоняли из заведений за «драки, сексуальные посягательства, наркотики, воровство и другие виды плохого поведения», согласно веб-сайту компании. «Публичный» список распространяется среди всех клиентов PatronScan. Таким образом, тот, кто заблокирован одним баром в США, может быть заблокирован всеми барами в США, Великобритании и Канаде, которые используют систему PatronScan до года. (PatronScan Australia поддерживает отдельную систему).

Решение о том, какое поведение может быть включено в список PatronScan, остается за владельцами и менеджерами бара. Но владельцы баров могут игнорировать запрет, если захотят. Данные о клиентах удаляются на протяжении 90 дней. Кроме того, PatronScan позволяет барам вести «закрытый» список, который не используется другими барами, но в котором база «плохих клиентов»  хранится до пяти лет.

У PatronScan есть процесс «подачи апелляций», но компания должна удовлетворить или отклонить эти апелляции.

Uber и Airbnb.

Благодаря экономике совместного использования, варианты путешествий вышли далеко за пределы такси и отелей. Uber и Airbnb являются лидерами в обеспечении транспорта и проживания для путешественников. Но есть много похожих компаний, предоставляющих такие услуги, как совместная поездка и размещение.

Airbnb — крупный поставщик туристических услуг — в марте похвастался, что в его системе насчитывается более 6 миллионов записей. Вот почему бан на сайте Airbnb существенно усложняет путешествие.

Airbnb может заблокировать ваш аккаунт навсегда по любой причине, которую он выберет, и оставляет за собой право не сообщать вам причину.

Стандартное сообщение компании звучит так: «Это решение необратимо и повлияет на любые дублированные или будущие учетные записи. Пожалуйста, поймите, что мы не обязаны предоставлять объяснение действий, предпринятых против вашей учетной записи».

Запрет может быть основан на том, что хозяин в частном порядке сообщает Airbnb о том, что, по его мнению, вы делали, останавливаясь в его апартаментах. Конкуренты Airbnb придерживаются аналогичной политики.

Uber тоже легко может забанить. Всякий раз, когда вы выходите из машины после поездки, приложение предлагает вам оценить водителя. Многие пассажиры не знают, что водитель теперь также получает приглашение оценить пассажира. Согласно новой политике, объявленной в мае, если ваш рейтинг «значительно ниже среднего», Uber запретит вам пользоваться сервисом.

WhatsApp.

Вас также могут забанить в приложениях для общения. Например, вы можете быть заблокированы в WhatsApp, если слишком много других пользователей блокируют ваш номер. Вы также можете попасть в черный список за рассылку спама, угроз, попытки взломать или перепроектировать приложение WhatsApp или использование неавторизованного приложения.

WhatsApp не сильно популярен в США, но в большинстве стран мира это основное приложение для общения. Бан в WhatsApp в некоторых странах, это как блокирование в телефонной системе в США.

Что не так с социальным кредитом?

Никто не любит антисоциальное, жестокое, грубое, нездоровое, безрассудное, эгоистичное или безжалостное поведение. Что плохого в том, чтобы использовать новые технологии и побудить всех вести себя хорошо?

Наиболее тревожным атрибутом Системы социального кредитования является не то, что она агрессивна, а то, что она — вне закона. Преступления наказываются за пределами правовой системы, что означает отсутствие презумпции невиновности, отсутствие юридического представительства, отсутствие судьи, присяжных и зачастую отсутствие апелляции.

Другими словами, это альтернативная правовая система, в которой обвиняемый имеет меньше прав.

Системы социального кредитования — это, в конечном итоге, неприятные сложности для правовой системы. В отличие от политики правительства Китая, система социального кредитования, формирующаяся в США, обеспечивается частными компаниями. Если общественность возражает против того, как эти законы соблюдаются, она не может избирать новых разработчиков правил.

Растущее число социальных «привилегий», связанных с дорогой, размещением, связью и оплатой за услуги (например, страховка), либо контролируются технологическими компаниями, либо зависят от того, как мы используем технологические услуги. А правила Кремниевой долины об использовании их продуктов становятся все более строгими.

Если нынешние тенденции сохранятся, возможно, что в будущем большинство правонарушений и даже некоторые уголовные преступления будут наказаны не Вашингтоном, а программистами из долиной. Это скользкий путь от демократии к корпоратократии.

Другими словами, в будущем правоохранительные органы могут в меньшей степени руководствоваться Конституцией и правовым кодексом, а в большей степени — лицензионными соглашениями с конечным пользователем.