В Китае внедряется Система социального кредита, которая основана на тотальном контроле за всеми действиями граждан.
В ближайшей перспективе пугающие антиутопии XX в. могут реализоваться в масштабах как целых государств, так и отдельных корпораций. Профсоюзы, тред-юнионы?.. Оставьте эти отмирающие понятия! На смену им приходят большие данные (Бигдата) и всепроникающие гаджеты, которые вместе формируют Систему социального кредита. Уже через четыре месяца она заработает в Китае, правда пока непонятно - на зависть или к устрашению остальной части мира?
Так вот ты какой - «Большой брат»!
Госсовет КНР опубликовал план внедрения Системы социального кредита (Social Credit Score, SGS) еще в 2014 г. Эти планы вызвали в мире бурю негодования, так как были расценены как попытка реализации кошмарной антиутопии Джорджа Оруэлла «1984» с ее Большим братом, контролирующим все и вся. Китай привычно проигнорировал международное мнение: внутри страны никакого негодования не было - и это главное. Почему? Просто потому, что SGS выглядит разумной и справедливой. Хотя фактически она ничем не отличается от того варианта будущего, который с французским цинизмом высмеял Люк Бессон в фильме «Пятый элемент».
Social Credit Score выставляет рейтинг каждому гражданину Китая на основании его социального и даже бытового поведения. Для этого собираются данные о том, как гражданин зарабатывает и как тратит деньги, как оплачивает счета, в каких отношениях с законом, как проводит свободное время и даже как исполняет семейные обязательства! Полученный рейтинг будет определять ставки по кредитам и ипотеке, возможность получить социальное пособие и льготы, отдать ребенка в престижное учебное заведение, путешествовать за границу и т.п. При этом система снабжена обратной связью: рейтинг будет в свободном доступе для каждого: посмотрел, учел ошибки, исправился... Поэтому внутри страны никаких протестов по поводу введения Social Credit Score не наблюдается - Китай строит гармоничное общество с помощью технологий. Кстати, здесь вообще нет фобий по поводу технологий и гаджетов.
Сомнений в том, что SGS заработает в срок, не возникает. Китай - не та страна, где не выполняются планы. Отдельные звенья системы уже протестированы. А целиком она тестируется на ограниченной территории - в Синьцзян-Уйгурском автономном районе, который до недавнего времени отличался протестными настроениями.
Основной принцип системы: «Если доверие нарушается в одном месте, ограничения накладываются везде!». Он применяется как в отношении индивидуумов, так и отдельных компаний и предприятий. Нарушители - как физические лица, так и юридические - будут подвергаться более пристальному надзору и выборочным проверкам. Суммарный балл социального кредита формируется на основе политической, коммерческой, социальной и юридической «кредитоспособности». По-китайски это называется Internet Plus (Интернет Плюс).
И пока правозащитники негодуют, правительства других стран с нетерпением ждут первых результатов эксперимента. Причем не только органы госуправления: китайский пример может быть использован в любой корпорации и с большой вероятностью уже копируется.
Оплата улыбкой и штраф по SMS
Позитивной стороной социальный кредит уже повернулся к посетителям сети ресторанов KFC в Ханчжоу. Китайское подразделение знаменитой американской корпорации Yum! Brands Inc - Yum China для привлечения в рестораны быстрого питания KFC молодого поколения внедрило систему оплаты… улыбкой. Она имеет говорящее название Smile to Pay («Улыбнись, чтобы заплатить») и разработана китайской компанией Ant Financial Services Group, входящей в Alibaba Group. Ее представитель уверяет, что мошенничества вроде использования фотографий, исключены. Директор по биометрическим технологиям Ant Financial Джидонг Чен (Jidong Chen) заявил:
- В сочетании с 3D-камерой и алгоритмом обнаружения живого изображения Smile to Pay может эффективно блокировать попытки мошенничества с использованием фотографий или видеозаписей других людей и обеспечивает безопасность учетной записи.
Ну, а негатив - с точки зрения обычного гражданина - это, например, возможность получить штраф за неправильный переход улицы в городе Шэньчжэнь. Наши автомобилисты уже привыкли к «письмам счастья» за нарушение скоростного режима в местах, отмеченных желтыми табличками. В Шэньчжэне табличек нет, как нет и госномеров на пешеходах. А штрафы - есть: камера фиксирует нарушение, а видео передается в систему распознавания лиц. После идентификации данные проверяются по социальным сетям и базам данных мобильных операторов, и на адрес нарушителя отправляется квитанция на оплату штрафа, а по соцсетям и сетям мобильной связи - извещение о нем, т.е. «СМС счастья». Разумеется, информация о нарушении также влияет на социальный рейтинг.
Подробности и предыстория
Как оказалось, предпосылки для системы тотального контроля были заложены в Китае еще в 1930-х гг., в период оккупации Японией. Тогда японцы отмечали лояльных к оккупантам китайцев, выдавая им «карты хороших граждан» (good citizen cards). Подсказка реализовалась спустя 80 лет на новой технологической базе. Пробный шар был пущен в 2010 г. в округе Суйнин (Suining) провинции Сычуань. За хорошее поведение гражданин получал максимальную оценку в 1 000 баллов. Нарушение правил перехода - минус 20 баллов, проезд на красный свет или попытка дачи взятки отнимали 50 баллов, столько же вычиталось за нежелание заботиться о пожилом родственнике. Присуждение почетного звания могло добавить 100 баллов.
На основании рейтинга граждане разделялись на 4 категории: категория A давала право на господдержку при открытии бизнеса или право подать заявку на повышение, а также на вступление в коммунистическую партию. Граждане из категории D лишались всякой господдержки. Пробный блин оказался комом: протесты вынудили власти провинции отказаться от такой практики. Но с учетом работы над ошибками социальный рейтинг продолжил развиваться.
Одной из важных целей стала необходимость контроля за добросовестностью предприятий в условиях свободного рынка. Например, в 2008 г. десятки тысяч детей были госпитализированы в Китае после употребления фальсифицированного молока и детской молочной смеси. Такого рода корпоративные правонарушения - не редкость и, по мнению властей, Система социального кредита способна исправить ситуацию с наибольшей эффективностью.
Просто собрать вместе
Фантастические результаты работы SGS наводят на подозрения об использовании каких-то неизведанных технологий, вживленных чипов и др. Но это не так. Используются уже обкатанные, широко известные и много лет применяемые технологии, включая искусственный интеллект и нейросети, камеры наблюдения и системы распознавания лиц, Большие данные и интегрированные базы данных, машинное обучение и его углубленный вариант - глубокое обучение (deep learning). За счет интеграции этих в общем-то общеизвестных технологий и создается Система социального кредита. Больше ничего и не нужно, хотя есть такие перспективные направления, как создание банков данных генетического материала. Проводя кампании по диспансеризации и формированию медицинских карт, государство может выделить особым образом, скажем, рецидивистов и обратить внимание на их родственников, которые тоже с большой вероятностью не отличаются благонадежностью.
В 2015 г. в начале работ над Системой социального кредита в Китае было установлено около 200 млн камер, к моменту запуска SGS их будет уже 600 млн. С помощью deep learning такие камеры могут использоваться не только для розыска преступников, как в странах Запада, но и для выставления более глубоких характеристик личности, таких как политическая лояльность или склонность к вредным привычкам. Например, если известно, где находятся заведения для азартных игр, то частое появление человека в этих местах получает однозначное толкование.
Вообще проблема с Большими данными и глубоким обучением - как раз в сборе данных для машинного обучения. Чем больше данных прогоняется через систему, тем точнее она работает, тем меньше ошибок. В Китае этой проблемы нет. Как пишет «Вашингтон Пост», в этой стране 700 млн человек «проживают большую часть своей жизни в Интернете». Поэтому сбор данных по соцсетям, таким как Weibo (китайский аналог Twitter и Facebook одновременно), не составляет большого труда. Повсеместное распространение смартфонов и электронной коммерции еще больше облегчают задачу.
А с другой стороны, интегрированная система способна, наконец, привести в порядок данные судебных, полицейских, банковских, налоговых и трудовых информационных ресурсов. В соответствии с госпрограммой 8 частных компаний заняты сбором и оцифровкой финансовой и юридической информации. Представители Sesame Credit, входящей в Alibaba Group, заявили, что, благодаря собранным ими данным, десятки миллионов пользователей с высокими показателями смогли арендовать автомобили и велосипеды без залогов и депозитов и могут избежать длинных очередей на госпитализацию в больницах.
И здесь - экспортный потенциал
Китай не собирается использовать свои наработки по социальному кредиту исключительно внутри страны. Задолго до запуска системы отдельные ее звенья уже экспортируются и пользуются повышенным спросом в регионах с неблагоприятной социальной обстановкой, в частности, в Латинской Америке. Пару лет назад компания CEIEC (China National Electronics Import & Export Corporation - Китайская национальная корпорация по импорту и экспорту электроники) развернула работы в Эквадоре, откуда Китай импортирует нефть. По данным агентства «Синьхуа», только за счет установки следящих камер с системой распознавания лиц преступность в Эквадоре за 2 года снизилась на 11,8%. CEIEC - многопрофильная корпорация, западные источники обвиняют ее даже в торговле оружием. Но системы общественной безопасности она точно поставляет и имеет свои отделения не только в странах Латинской Америке, включая Кубу, Тринидад и Тобаго, Бразилию, Боливию и Перу, но даже в Москве.
В качестве резюме
Как невозможно отменить технологический прогресс, так невозможно заставить не применять его так, как власть считает нужным. По мнению либеральной общественности, Система социального кредита китайского образца не может прижиться в западном обществе. Но ведь отдельные ее элементы уже используются! Так что в том или ином виде социальный кредит вскоре появится везде.
Автор материала Игорь КЛОКОВ
Ссылки по теме