Российские высшие чиновники и ИТ-эксперт высказали противоположные мнения о цифровизации

Минцифры РФ предложило внедрять генеративный ИИ в госуправление и устранять "необоснованные нормативно-правовые ограничения". В рамках эксперимента будут производиться следующие виды деятельности с использованием ИИ: проверка резюме кандидатов на государственную службу и составление тестовых заданий для них; анализ законопроектов Государственной думы на ошибки; генерация новостных лент для официальных сайтов; обработка типовых обращений граждан и подготовка ответов на них; проверка достоверности информации, включая контент, созданный ИИ.

Председатель правительства РФ Михаил Мишустин считает необходимым "автоматизировать всё, что возможно", делая скидку только для удобства старшего поколения, "которое не всегда выбирает средства автоматизации".

В то же время на Глобальном цифровом форуме-2025, состоявшемся в Нижнем Новгороде, на панели «Архитектура цифровизации госуправления», ведущий ИТ-эксперт по кибербезопасности, президент Infowatch Наталья Касперская высказала своё частное мнение о цифровизации как госизмене:

"Надо понимать, что данные, которые мы отдаём в облака, в какие-то госсистемы, они подвержены рискам инфобезопасности. Эти риски просто невозможно купировать, задача до сих пор не решена. Вообще. Если вы поставите задачу гарантированного избавления от утечек, то её на сегодня человечество нигде не решило. 

Оборудование и устройства у нас в основном иностранного производства. У всех вас в карманах лежат смартфоны. Посмотрите внимательно, чьего производства. Это иностранные платформы, работающие на облачных технологиях. Это значит, что все наши данные принадлежат производителю, устройство которого лежит у вас в кармане. Либо это американцы, либо китайцы, которые не посмущаются напихать туда различных закладок. Мы потом можем ставить туда любые системы госуправления, которые такие славные и хорошие, но вы понимаете: если это платформа, на платформенном уровне они могут быть перехвачены.

Максут Игоревич [Шадаев, глава Минцифры] раньше говорил, что наш идеальный чиновник – это «чиновник-робот», который будет управляться системой. И здесь у нас на панели тоже звучало: «у чиновников будет возможность быть управляемыми электронными системами». То есть мы предлагаем электронный кнут для чиновников. Это не нравится чиновникам, явно снижает мотивацию. И вообще-то мы имеем непредсказуемые социальные риски. Что проще сделать системе? Проще послать человека на фиг. По внедрению электронных помощников это прекрасно видно. Представим себе, что мы оцифровали все. Там люди, граждане, уже никуда пробиваться не будут. При этом электронные болваны будут давать сами себе прекрасную статистику – будет все выглядеть так, как будто госуправление у нас на прекрасном уровне.

Вы не задумывались над тем, что цифровизация, это электричество + интернет? ...В момент отключения этих систем мы рискуем отказаться безрукими и слепыми котятами.

Еще хочу сказать по поводу ИИ. Здорово, что он у нас есть, это очень модно и молодежно. Но надо понимать, что система, основанная на нейросетях, имеет ложноположительные и ложноотрицательные срабатывания. Это значит, что она по определению будет глючить. Если опускаешь где-то ложноположительные, подрастают ложноотрицательные. Получить «ноль» и там, и там – нельзя. Мы имеем дело с глючными системами, поэтому предложение внедрить это на уровне принятия ответственных гос. решений – по юридическим моментам, например – это просто нельзя делать, коллеги. То же касается медицины. Почему из года в год собираясь на конференции по ИИ мы не говорим про «черный ящик»? Сейчас еще появляются «дипфейки», вообще не отличимые от реальности.

Задача, которая тут была озвучена: «отказ от бумаги к 2030 году» – это диверсия под госуправление. На мой взгляд, это госизмена. Давайте прямо называть вещи своими именами." 

ИИ-помощник программиста Replit удалил всю базу данных проекта, но извинился.