Терминатор Сыроежкин, или Искусственный интеллект от фантастики к были

Автор: Александр Гончаров

Заметки православного 

Со времен изгнания из рая человечество постоянно занимается тем, что переделывает окружающий мир под себя, стараясь достигнуть наибольшего комфорта во всех сферах своей деятельности.

Так как жить приходится в разных, в том числе и не очень благоприятных, условиях, а средства к существованию можно получить только за счет труда, то наибольшее количество изобретений делалось для облегчения его. Например, от примитивной палки-копалки для обработки земли люди дошли до мощнейших тракторов и комбайнов.

В XXI столетии от Р. Х. создана масса приспособлений, чтобы преобразовать и облегчить физический труд, а иногда и полностью отменить его. Сегодня общество столкнулось и с проблемой интеллектуального труда, когда огромные объемы информации не позволяют каждому отдельному человеку быстро анализировать ее и принимать верные решения в считаные секунды или даже минуты. И тогда на помощь было призван искусственный интеллект (ИИ), способный заменить людей в их интеллектуальном и творческом труде.

Надо сказать, что первыми вопросами ИИ занялись, конечно, ученые, а затем к ним подключились футурологи и писатели-фантасты, так сказать, для широкой популяризации дела.

Наивно думать, что писатель-фантаст каким-то особым взглядом всматривается в «прекрасное далеко» и транслирует полученную оттуда информацию. В реальности фантаст домысливает уже имеющиеся открытия и изобретения, а часто просто проекты и гипотезы. Скажем, знаменитый французский романист Жюль Верн при описании своего подводного корабля «Наутилус» из «Двадцать тысяч лье под водой» (1870) просто значительно приукрасил обыкновенную подводную лодку. Еще в 1801 году Роберт Фултон построил для армии Наполеона Бонапарта четырехместную подводную лодку в Париже, которая так и называлась «Nautilus», а ее испытания прошли на реке Сене.

Сам термин «искусственный интеллект» ввел в 1956 году Джон Маккарти, известный ученый, развивавший информатику и программирование, хотя задолго до него мыслители задумывались о создании некой сотворённой человеком сущности, способной улучшить и даже заменить собой возможности человеческого разума.

Идею ИИ фантасты приняли в разработку достаточно быстро. «Умные» роботы, киборги, системы и т. д. заполонили книги и экраны. На первое место в сюжетных коллизиях вышел конфликт между живыми людьми и ИИ.

Художественный фильм «Терминатор» (1984) режиссера Джеймса Кэмерона признан сегодня классикой кинематографа США. Сюжет его состоит в противостоянии в нашем времени воина (повстанца) сопротивляющегося человечества с одним из роботов-терминаторов (наделенным ИИ). И тот и другой прибыли из 2029 года, где идет война между людьми и машинами. Терминаторы и были созданы ИИ системы «Скайнет» для уничтожения живых, биологических видов на планете Земля.

Впрочем, терминатор в исполнении актера Арнольда Шварценеггера, обладающий ИИ, и ведет себя как машина: у него нет эмоций, он исполняет только узкую поставленную задачу – найти и убить Сару Коннор, и почти ничего не говорит. Впрочем, его фраза «I’ll be back» (с англ. «Я вернусь») давно превратилась в мем.

Но если поразмыслить, то опасность робота-терминатора понятна и очевидна. Зло есть зло.

Но куда страшнее то, что показал советский кинорежиссер Константин Бромберг в детском музыкальном научно-фантастическом телефильме «Приключения Электроника» (1974), снятом по книгам Евгения Велтистова «Электроник – мальчик из чемодана» (1964) и «Рэсси – неуловимый друг» (1971).

Обратимся к сюжету. Советские ученые создали робота с ИИ – Электроника, причем его облик сформировали в соответствии с фото обыкновенного мальчика Сергея Сыроежкина, взятого из популярного журнала. Сыроежкина («Сыроегу») и Электроника играют братья-близнецы – Юрий и Владимир Торсуевы.

Робот сбегает от создателей, встречается с прототипом, и они договариваются, что в школу отправляется Электроник, а Сыроега получает массу свободного времени, чтобы отдыхать и развлекаться.

В результате Электроник полностью заменяет Сыроежкина. И к нему начинают хорошо относится и учителя, и школьные товарищи. Сыроега №2 лучше учится, лучше дружит и ведет себя порядочнее живого человека.

В фильме звучит и вроде бы шуточная песенка от имени Сыроежкина, в исполнении Е. Камбуровой «До чего дошел прогресс…». Сыроега №1 поет:

До чего дошел прогресс!

Труд физический исчез.

Да и умственный заменит

Механический процесс!

Позабыты хлопоты,

Остановлен бег.

Вкалывают роботы,

А не человек!

В фильме все заканчивается хорошо, Сыроежкин перевоспитывается, а Электроник становится ему другом.

Беда лишь в том, что слова песенки определенно предксказывают то, что с человечеством проходит в наши дни. ИИ предназначен во всем заменить человека, оставив последнему лишь развлечение и довольство.

В «Основах социальной концепции Русской Православной Церкви» говорится: «Совершенствование орудий и методов труда, его профессиональное разделение и переход от простых его форм к более сложным способствуют улучшению материальных условий жизни человека. Однако обольщение достижениями цивилизации удаляет людей от Творца, ведет к мнимому торжеству рассудка, стремящегося обустроить земную жизнь без Бога. Реализация подобных устремлений в истории человечества всегда заканчивалась трагически».

Следуя до конца по пути Терминатора Сыроежкина, человек совлекает сам с себя образ Божий и превращается в полуживотное.

Однако, если люди и не захотят погрязнуть только в удовлетворении своих страстей, возникает и другое горе. Фантасты пишут о массовом внедрении нейросетей (подмножество ИИ) в мозг человека. Купил себе инженерную сеть, установил, вот и обладаешь знаниями инженера-конструктора, купил нейросеть космического пилота, чуток попрактикуешься на симуляторе — и готов лететь в дальние уголки галактики, купил филологическую нейросеть — и обладаешь всем, чтобы преподавать в университете. С другой стороны, если есть всесильные нейросети, тогда и сами университеты уже не нужны.

Таким образом, человек вытесняется из творческого процесса получения знаний, общения с живым учителем, отлучается от радостей и горестей, открытий и ошибок, с которыми он сталкивается при обычном обучении. В какой-то степени сам он превращается в биологический ИИ.

Святейший Патриарх Кирилл в выступлении перед участниками X международного фестиваля православных СМИ «Вера и слово» в октябре 2023 года отмечал: «Наблюдая то, как вторгается искусственный интеллект во все стороны человеческой жизни, становится понятным, что речь идет, конечно, о дегуманизации человеческого общества, о потере той решающей роли, которую человек, свободный человек, силой своего разума, своей воли играет в установлении общественных отношений и в судьбе – и в личной судьбе, и в судьбе общества».

И с этим ведь не поспоришь. Терминатор в исполнении Шварценеггера – это опасность открытая, а Терминатор Сыроежкин – скрытая. О том, как избежать первую, ныне спорят многие, начиная с Илона Маска и заканчивая таксистом Насрулой, а вот вторую как-то не осознают.

Искусственный интеллект сам по себе неплох и нехорош, как каменный топор или самолет. Вопрос заключается в том, где и как его использовать, как контролировать и как человека ему не уподобить.

ИИ изначально начинает работать и самосовершенствоваться в рамках программ, алгоритмов, принципов и задач, вложенных в него людьми. То есть сама проблема заключается не в нем, а в тех конструкторах, программистах, ученых, которые его и создают. Но они принадлежат к человечеству со всеми его грехами.

Побори грех – и ИИ будет не грознее милого котенка. Задумайся о том, как важны знания и труд – и не превращай себя в голема. Возлюби Господа Бога и ближнего своего, по слову Спасителя, и не придется ждать катастрофы, связанной с искусственным интеллектом, ограниченным по зову верующего сердца и постулатами трезвого рассудка.