В одном из эпизодов драматической антиутопии «Черное зеркало» персонажи живут в будущем, где у каждого есть свой «социальный рейтинг». От величины этого рейтинга зависят очень многие сферы их жизни: с кем они дружат, где живут, как к ним относятся посторонние люди и даже сколько они платят за аренду. Недовольная своим рейтингом главная героиня принимает решительные меры, чтобы поднять его, но заканчивает тем, что сходит с ума и попадает в тюрьму.
Звучит футуристически, жутко? Вряд ли когда-нибудь случится в реальной жизни? К сожалению, нет. Современная версия этого сценария разворачивается сейчас в Китае, где правительство реализует систему «социального кредитного рейтинга», чтобы следить за жизнью граждан. Система уже опробована в столице одной из провинций — Ханчжоу.
Хотя неясно, как будут отслеживаться самые трудные для измерения критерии будут отслеживаться, в социальные рейтинги планируется включать данные обо всем: от своевременности оплаты штрафов за нарушение правил дорожного движения до того, как люди относятся к своим родителям.
The Wall Street Journal разделил все эти данные на три категории: традиционные, социальные и онлайн.
Традиционные данные не сильно отличаются от кредитных баллов, используемых в США, и включают в себя отслеживание оплаты счетов, кредитов и налогов.
Некоторые из социальных показателей также вполне обычны: судимость и соблюдение правил дорожного движения, например. Но есть там и куда более странные категории: академическая честность, волонтерская деятельность, а также соблюдение законов в области планирования семьи. И, возможно, самая странная из них — из-за своей субъективности и трудности измерения — это сыновняя почтительность, конфуцианская добродетель, проявляющаяся в уважении к родителям, пожилым людям и в почитании предков.
Онлайновые данные будут включать информацию о том, что люди покупают в интернете и как взаимодействуют с другими пользователями. Подумайте дважды, прежде чем поставить лайк в фейсбуке под фото своего друга, который вверх тормашками пьет пиво из бочонка.
Короткий поводок
Отслеживание правительством повседневной жизни — это не новость для Китая. Каждый работающий гражданин страны имеет так называемый «данган» — досье, которое заводится еще в средней школе, а затем переходит к работодателю. Оно содержит информацию о занятиях, покупательских привычках, друзьях, юридических спорах и любые другие данные, которые работодатель хочет знать о своих сотрудниках. «Данган» немного потерял свое значение за последние пару десятилетий в связи с переходом от плановой экономики к рыночной, но файлы по-прежнему могут быть использованы против людей когда угодно и с какой угодно целью.
Кроме того, правительство использует черные списки, чтобы ограничить какие-то действия или отказать в определенных услугах. Это означает, что одна ошибка может стоить вам очень дорого и весьма усложнить вам жизнь. Так, проигранное в суде дело об арендной плате может закончиться для вас запретом на покупку билетов на поезд. Один из новейших черных списков — перечень «нежелательных туристов». Правительство заявило о необходимости его применения, чтобы улучшить имидж Китая за рубежом после многочисленных инцидентов, когда китайские граждане неприлично вели себя в отпуске.
Доносчики
На фоне очевидных опасений по поводу нарушения конфиденциальности и ограничения прав человека, есть и еще один аспект социальных кредитных рейтингов, который не обсуждался так широко: как система может повлиять на межличностные и общественные отношения. Ведь социальные данные, например, предполагается получать от «жилищных комитетов», на которые возложены обязанности наблюдать и отчитываться о поведении людей.
Как изменилось бы ваше поведение, если бы вы знали, что один из ваших соседей следит за вами? Что делать, если вы знаете, что за вами следят, но не знаете, кто это? Если бы следить пришлось вам, были бы вы более снисходительны к людям, которых вы любите больше всего?
Помимо создания расслоения в обществе — продвижение наверх будет существенно осложнено для обладателей низкого рейтинга, — система может спровоцировать напряженные отношения между соседями, коллегами и даже друзьями. Заявленная цель системы — «чтобы благонадежным гражданам было легко гулять везде, а дискредитировавшим себя — трудно сделать даже шаг». Не знаю, как вам, а мне бы хотелось знать, что я не попаду в группу «дискредитированных».
Восемь интернет-компаний, среди которых Alibaba, были одобрены для проведения эксперимента с социальным рейтингом кредитоспособности, использующего персональные данные. Они будут фиксировать онлайн-действия пользователей и присвоят им на основе интернет-поведения.
Большое население — большие данные
Население Китая — 1,4 млрд человек, 19% от общей численности населения мира. Это много людей, которых нужно контролировать достаточно хорошо, чтобы выставить каждому осмысленный социальный рейтинг. Если показатель, выданный алгоритмом, сможет регулировать доступ людей к высшему образованию, качеству и объемам кредитов и даже их право поселиться в роскошном отеле, важно, чтобы этот показатель был точным. Даже если местные органы власти, жилищные комитеты и интернет-компании объединятся, чтобы собирать и сообщать данные о гражданах, управление этими данными будет огромной проблемой.
Ожидается, что проект социального рейтинга будет реализован к 2020 году. И пока непонятно, будет ли страха перед низким баллом достаточно, чтобы изменить поведение людей.