Искусственный интеллект разделит китайцев на “лучших” и “худших”

Сюжет эпизода "Нырок" (англ. Nosedive) сериала "Черное зеркало" – это почти реальность. Китай готовится запустить до 2020 систему статистических показателей, которая разделит граждан страны по аспектам поведения. Система из 200 миллионов камер наблюдения под управлением искусственного интеллекта (AI) уже прошла успешные испытания в провинциях по всему Китаю.

Коммунистическая партия Китая назвала программу "социальный кредит". Она будет оценивать поведение 1,4 миллиарда граждан страны в режиме реального времени по 800 бальной шкале. Рейтинг граждан повышается за покупки китайских товаров, общественных работ, и понижаются за мошенничество, уклонение от уплаты налогов или критику правительства.

Для "лучших граждан" предусмотрены привилегии: приоритетный доступ к государственному жилью и получению виз для зарубежных поездок, продвижение по службе, возможность отправить детей в элитные университеты, дисконтирование кредитов, аренда отелей и автомобилей без депозитов, VIP-обслуживание в аэропортах.

Мошенничество, уклонение от уплаты налогов, курение в зонах для некурящих, а также покупка товаров, которые правительство не одобряет – например, алкоголь или видеоигры, будут снижать рейтинг.

Граждане с низким социальным баллом не смогут получить лучшие рабочие места, отправить своих детей в высшее учебное заведение, будут отрезаны от высокоскоростного Интернета.

Разработчики программы планируют развернуть сеть из 600 миллионов камер наблюдения с искусственным интеллектом, расположив их в крупных городах для обеспечения безотказного функционирования.

Камеры будут практически повсюду – улицы, парки, магазины, лифты, парковки, отели, офисы и другие общественные места.

Система оснащена технологиями распознавания лиц, сканирования тел и гео-слежением. Информация с камер наблюдения в режиме реального времени объединяется с государственными отчетами о гражданах – их медицинские, образовательные и финансовые истории.

Программа перекликается с эпизодом "Нырок" (англ. Nosedive) сериала "Черное зеркало" 2016, в котором граждане набирают социальный балл, основанный на том, как другие оценивают их повседневные взаимодействия. 

Китай запустил экспериментальную версию системы в 2010 в провинции, расположенной к северу от Шанхая. Журналист из Китая рассказал американскому изданию, что при попытке забронировать билет на самолет ему было отказано по причине запрета на перелёты, так как он попал в список нежелательных граждан. Ранее ему было выдано предписание суда извиниться за ряд постов в Twitter, но извинения не приняли, посчитав их неискренними. В результате его рейтинг упал, и он оказался в списке нежелательных. Теперь он не может купить недвижимость и отправить ребенка в частную школу.

Учитывая секретность алгоритма подсчёта рейтингов, программа легко может стать в руках государства инструментом манипулирования для создания общества, соответствующего идеологии правящей коммунистической партии Китая.