Китайские суды обязали консультироваться с искусственным интеллектом

Анатолий Несмиян

Верховный суд КНР обязал судей при принятии решений консультироваться с искусственным интеллектом, сообщает South China Morning Post. Нейросеть будет автоматически проверять судебные дела на наличие ссылок, а также рекомендовать законы и постановления, наиболее отвечающие сути спора

Это, безусловно, продолжение развития системы цифрового «социального кредита». Есть алгоритмы, которым обязан подчиняться человек, значит, должны существовать алгоритмы, по которым будут определяться и поступки, не соответствующие поведенческим нормам.

Фактически это уже муравейник с жестко запрограммированным инстинктивным поведением. «Элизиум — рай не на Земле» очень неплохо визуализировал подобные технологии управления.

В чем здесь проблема? В том, что сложное поведение человека позволяет ему менять свой функционал, в том числе и социальный, сообразно возникающим обстоятельствам. Если человек лишен возможности «переключаться», он в изменившихся условиях оказывается неспособен на осмысленные реакции. Конечно, в него можно «записать» ряд алгоритмов для реагирования на какие-то типовые ситуации, но жизнь всегда сложнее.

Подобного рода эксперименты в социуме можно проводить только в одном случае — если жизнь конкретного человека не имеет никакого значения. Причем не абстрактно, а всерьез, на понятийном и ментальном уровне. Китай, по всей видимости, следует этому правилу, что, кстати, вполне вписывается в его цивилизационную парадигму. При этом нужно понимать, что социум должен сам добровольно согласиться с такого рода постановкой вопроса, в противном случае психическая катастрофа для него обеспечена.

«Погашенный» инстинкт самосохранения — вещь серьезная, но только при его наличии система полной алгоритмизации вплоть до утраты разумности поведения может работать без сбоев.

Проще говоря — наше понятие о гуманизме и о гуманитарных технологиях управления полностью не вписывается в китайскую парадигму. Да, в России жизнь человека всегда была для властей второстепенным фактором, но все-таки напрочь игнорировать личные мотивы человека у нас все-таки не пытались никогда. Даже сегодня, когда в стране правит откровенно фашистский режим, он вынужден прибегать к социальной психологии, пускай и на самом примитивном уровне. Китайская история с переводом всей жизни под контроль искусственного интеллекта — это совершенно иной уровень отношений власти и общества.

Я думаю, что у нас могут завистливо вздыхать, глядя на китайский опыт, но повторить его не сумеют. Во-первых, потому что просто не сумеют, они вообще ничего не могут и не умеют, а во-вторых, власть при попытке внедрения подобной технологии неизбежно столкнется с сопротивлением всего социума. Причем это сопротивление может носить как активный, так и пассивный характер. Что такое пассивный характер — да то, что произошло в «пандемию». Люди либо просто игнорировали абсурдные и людоедские решения властей, либо имитировали их принятие. Причем массово. Настолько массово, что никакой террор так и не сумел продавить вполне банальное решение о всеобщей вакцинации. Ключевым фактором отказа стал насильственный характер мероприятия.

Так что, думаю, нам китайская перспектива точно не грозит, а если чья-то светлая голова решит внедрить это полезное начинание, то на выходе получится что-то совершенно иное. Скорее всего, точно хуже даже того, что есть сейчас, но точно не то, что будут пытаться внедрить.