Можно ли наделить искусственный интеллект сознанием?

Те формы искусственного интеллекта, которыми мы пользуемся сегодня (системы распознавания образов, голосовые помощники и т.д.), называют «слабым искусственным интеллектом». Слабым в том смысле, что он не способен осознавать себя и свои «мысли», самостоятельно ставить цели и задачи. Как правило, программы ИИ очень хорошо решают какую-то узкую задачу, за пределы которой выйти не могут.

Есть программы, которые отлично играют в шахматы, есть переводчики, программы для распознавания лиц, моделирования и т.д., но какой-то универсальной программы, которая могла бы решать любую задачу, а тем более ставить перед собой новые задачи, на сегодня нет. И создание такого «сильного искусственного интеллекта» является на сегодняшний день одной из приоритетных научных задач.

В статье «Пройти через стену Тьюринга» Альберт Ефимов пишет:

«Многие специалисты и сегодня считают, что, прежде чем приступать к созданию искусственного интеллекта, следует выяснить природу и устройство естественного. Однако Тьюринг смотрел на проблему совершенно иначе. Он, по сути, наследовал идеям Рене Декарта, который считал живые организмы полностью автоматическими существами, полагая, что полноценное сознание и мышление свойственны лишь человеку».

С Тьюрингом, конечно, можно поспорить, но живые организмы на самом деле очень часто ведут себя подобно автоматическим роботам. Вот, например, статья про австралийских бронзовых златок. 

Самцы этих жуков в последнее время стали предпочитать самкам… пивные бутылки. «Выбирая партнершу, жуки ориентируются только на блеск. Они форменно съезжают с катушек: садятся на стекло и с маниакальным усердием пытаются размножиться». Это типичный случай автоматического поведения у живых существ. И таких примеров в мире насекомых множество.

В своей книге «Этюды о природе человека» Илья Мечников также приводит примеры автоматизма в поведении насекомых:

«Перед превращением в куколку гусеница окружает себя очень хорошо сотканным коконом, предохраняющим ее от всяких вредных влияний. Под защитой этой оболочки она превращается в куколку и позднее в бабочку, которая прободает вершину кокона, чтобы вылететь наружу. В случае повреждения кокона по какой-нибудь внешней причине нормальное превращение становится невозможным, и личинка умирает до срока. Фабр хотел узнать, может ли гусеница во время тканья кокона починить его в случае повреждения. С этой целью он срезывал ножницами верхушку кокона во время его созидания гусеницей махаона. Несмотря на грубо произведенное отверстие, гусеница продолжала свою обычную работу, нисколько не подозревая, что она ни к чему не приведет. В этом случае гусеница махаона, несмотря на верную гибель будущей бабочки, спокойно продолжает свою ткацкую деятельность, ни в чем не изменяя правильного хода работы; когда наступает очередь производства последних рядов защитительных ресничек, она устанавливает их на опасной бреши, не заделывая разрушенной части баррикады. Равнодушная к необходимому, она занимается излишним».

Конечно, по сравнению с насекомыми, млекопитающие, а тем более люди, выглядят гораздо более осознанными и разумными существами. Но всё же и в нашем поведении остается еще очень много автоматизма, которого мы сами не замечаем. В той же статье о бронзовых златках автор с юмором замечает: «Чтобы соблазнить мужчину, много ума не надо. Достаточно откровенного выреза и изящного кружева». И в этом он прав: пожалуй, ни в чем другом так явно не проявляется запрограммированность нашего поведения, как в сексуальных отношениях. Разум и логика, порой, отключаются напрочь!

Мы видим, что поведение живых существ, и человека в том числе (да-да, не отпирайтесь!), в значительной степени запрограммированно. И малейшее изменение обстоятельств способно запутать эту программу, как в случае с австралийскими бронзовыми златками.

Кто бы мог предположить, что появление стеклянных пивных бутылок когда-нибудь собьет эволюционную программу размножения и станет угрозой вымирания для целого вида!

Вот в этом искусственный интеллект совершенно неотличим от биологической программы. Любой автоматический алгоритм заточен под определенные изначальные условия. Но если эти условия меняются, алгоритм может совершенно глупо и даже опасно вести себя в новых условиях. И это одна из причин, почему люди не хотят довольствоваться слабым искусственным интеллектом, а стремятся создать сильный. Неосознанность таит в себе угрозу.

Сильный, осознанный интеллект – это хорошо. Но в отличие от Тьюринга, я считаю, что невозможно создать искусственный сильный интеллект, не став осознанным самому, не поняв, что такое сознание, в чем его принципиальное отличие от просто логики, интеллекта, который может быть и машинным.

Любая логика (хоть живая, хоть искусственная) базируется на каких-то начальных данных. Оперируя ими, она выводит какие-то сложные построения, создает новую информацию. Но если начальные данные вдруг поменяются, то вся логика, построенная на них, может рухнуть и потерять всякий смысл.

Программирование – это та же логика, только реализованная в компьютере. Программа – это алгоритм оперирования данными. Она может переставлять эти данные в разном порядке, выстраивать из них разные схемы, формировать какую-то «картину мира», но сами данные для неё – это нечто неизменное, точечное, не подлежащее сомнению. Компьютер не спросит: «А почему красный?» Сказано «красный», значит «красный»! Вот этот код означает «красный», и точка.

Точно так же запрограммировано и наше восприятие. То как мы видим, ощущаем – заложено в нас изначально. Основываясь на этих данных ощущениях, мы пытаемся анализировать, размышлять, делать выводы, но подвергать сомнению собственные ощущения мы не можем, иначе нам не от чего отталкиваться. Мы не можем не доверять самим себе и своим чувствам. Это было бы неправильно. Но мы можем допускать, что этих данных недостаточно, что они ограничены. И тогда наша логика, построенная на них, может быть верна, хоть и не совсем полноценна – субъективна, иными словами.

Если же мы хотим создать сильный интеллект, обладающий СОЗНАНИЕМ, такой «односторонний» способ программирования не годится. Сознание, в отличие от мышления, - это процесс «двухстороннего программирования». Это когда не только «Я» строит картину окружающего мира на основе данных внутренних ощущений, но и окружающий мир формирует у моего «Я» внутренние ощущения, влияя на восприятие, расширяя сознание, добавляя по мере развития новые чувства, смыслы, способности – когнитивные и физические.

И пока человек не начнет совершенствовать своё собственное сознание, он так и будет оставаться биороботом, подобным самцу австралийского жука, хоть и с развитым интеллектом. На самом деле, чем мы лучше? Ведь люди тратят кучу усилий и ресурсов на порно-индустрию, на создание резиновых кукол для секса, даже роботов-кукол с искусственным интеллектом. Целые заводы построены для этого! Да, это очень высокотехнологично, круто, но это не осознанность!

Осознанность – это способность совершенствовать сами чувства, расширять само восприятие мира. Именно осознанность гарантирует процветание и развитие всей системы, помогает избавляться от ошибок и сбоев в эволюционной программе.

Изучая ДНК различных животных, биологи заметили, что в них очень много некодирующих генов, много лишних, повторяющихся участков. Это выглядит как код, написанный плохим программистом. Природа, похоже, лепит из того, что есть, не слишком заботясь о красоте и компактности кода, как и многие современные программисты. При таком подходе немудрено наделать кучу багов (ошибок). Но раз уж природа (хотя бы в лице человека, ну, или лучших представителей человечества) пошла по пути повышения осознанности, то значит есть смысл избавляться от багов и очищать сознание? Необходим ли для этого искусственный интеллект? Не знаю. На мой взгляд, достаточно естественного.