Можно ли наделить искусственный интеллект сознанием?
Те формы искусственного интеллекта, которыми мы пользуемся сегодня (системы распознавания образов, голосовые помощники и т.д.), называют «слабым искусственным интеллектом». Слабым в том смысле, что он не способен осознавать себя и свои «мысли», самостоятельно ставить цели и задачи. Как правило, программы ИИ очень хорошо решают какую-то узкую задачу, за пределы которой выйти не могут.

Есть программы, которые отлично играют в шахматы, есть переводчики, программы для распознавания лиц, моделирования и т.д., но какой-то универсальной программы, которая могла бы решать любую задачу, а тем более ставить перед собой новые задачи, на сегодня нет. И создание такого «сильного искусственного интеллекта» является на сегодняшний день одной из приоритетных научных задач.
В статье «Пройти через стену Тьюринга» Альберт Ефимов пишет:
«Многие специалисты и сегодня считают, что, прежде чем приступать к созданию искусственного интеллекта, следует выяснить природу и устройство естественного. Однако Тьюринг смотрел на проблему совершенно иначе. Он, по сути, наследовал идеям Рене Декарта, который считал живые организмы полностью автоматическими существами, полагая, что полноценное сознание и мышление свойственны лишь человеку».
С Тьюрингом, конечно, можно поспорить, но живые организмы на самом деле очень часто ведут себя подобно автоматическим роботам. Вот, например, статья про австралийских бронзовых златок.
Самцы этих жуков в последнее время стали предпочитать самкам… пивные бутылки. «Выбирая партнершу, жуки ориентируются только на блеск. Они форменно съезжают с катушек: садятся на стекло и с маниакальным усердием пытаются размножиться». Это типичный случай автоматического поведения у живых существ. И таких примеров в мире насекомых множество.
В своей книге «Этюды о природе человека» Илья Мечников также приводит примеры автоматизма в поведении насекомых:
«Перед превращением в куколку гусеница окружает себя очень хорошо сотканным коконом, предохраняющим ее от всяких вредных влияний. Под защитой этой оболочки она превращается в куколку и позднее в бабочку, которая прободает вершину кокона, чтобы вылететь наружу. В случае повреждения кокона по какой-нибудь внешней причине нормальное превращение становится невозможным, и личинка умирает до срока. Фабр хотел узнать, может ли гусеница во время тканья кокона починить его в случае повреждения. С этой целью он срезывал ножницами верхушку кокона во время его созидания гусеницей махаона. Несмотря на грубо произведенное отверстие, гусеница продолжала свою обычную работу, нисколько не подозревая, что она ни к чему не приведет. В этом случае гусеница махаона, несмотря на верную гибель будущей бабочки, спокойно продолжает свою ткацкую деятельность, ни в чем не изменяя правильного хода работы; когда наступает очередь производства последних рядов защитительных ресничек, она устанавливает их на опасной бреши, не заделывая разрушенной части баррикады. Равнодушная к необходимому, она занимается излишним».
Конечно, по сравнению с насекомыми, млекопитающие, а тем более люди, выглядят гораздо более осознанными и разумными существами. Но всё же и в нашем поведении остается еще очень много автоматизма, которого мы сами не замечаем. В той же статье о бронзовых златках автор с юмором замечает: «Чтобы соблазнить мужчину, много ума не надо. Достаточно откровенного выреза и изящного кружева». И в этом он прав: пожалуй, ни в чем другом так явно не проявляется запрограммированность нашего поведения, как в сексуальных отношениях. Разум и логика, порой, отключаются напрочь!
Мы видим, что поведение живых существ, и человека в том числе (да-да, не отпирайтесь!), в значительной степени запрограммированно. И малейшее изменение обстоятельств способно запутать эту программу, как в случае с австралийскими бронзовыми златками.
Кто бы мог предположить, что появление стеклянных пивных бутылок когда-нибудь собьет эволюционную программу размножения и станет угрозой вымирания для целого вида!
Вот в этом искусственный интеллект совершенно неотличим от биологической программы. Любой автоматический алгоритм заточен под определенные изначальные условия. Но если эти условия меняются, алгоритм может совершенно глупо и даже опасно вести себя в новых условиях. И это одна из причин, почему люди не хотят довольствоваться слабым искусственным интеллектом, а стремятся создать сильный. Неосознанность таит в себе угрозу.
Сильный, осознанный интеллект – это хорошо. Но в отличие от Тьюринга, я считаю, что невозможно создать искусственный сильный интеллект, не став осознанным самому, не поняв, что такое сознание, в чем его принципиальное отличие от просто логики, интеллекта, который может быть и машинным.
Любая логика (хоть живая, хоть искусственная) базируется на каких-то начальных данных. Оперируя ими, она выводит какие-то сложные построения, создает новую информацию. Но если начальные данные вдруг поменяются, то вся логика, построенная на них, может рухнуть и потерять всякий смысл.
Программирование – это та же логика, только реализованная в компьютере. Программа – это алгоритм оперирования данными. Она может переставлять эти данные в разном порядке, выстраивать из них разные схемы, формировать какую-то «картину мира», но сами данные для неё – это нечто неизменное, точечное, не подлежащее сомнению. Компьютер не спросит: «А почему красный?» Сказано «красный», значит «красный»! Вот этот код означает «красный», и точка.
Точно так же запрограммировано и наше восприятие. То как мы видим, ощущаем – заложено в нас изначально. Основываясь на этих данных ощущениях, мы пытаемся анализировать, размышлять, делать выводы, но подвергать сомнению собственные ощущения мы не можем, иначе нам не от чего отталкиваться. Мы не можем не доверять самим себе и своим чувствам. Это было бы неправильно. Но мы можем допускать, что этих данных недостаточно, что они ограничены. И тогда наша логика, построенная на них, может быть верна, хоть и не совсем полноценна – субъективна, иными словами.
Если же мы хотим создать сильный интеллект, обладающий СОЗНАНИЕМ, такой «односторонний» способ программирования не годится. Сознание, в отличие от мышления, - это процесс «двухстороннего программирования». Это когда не только «Я» строит картину окружающего мира на основе данных внутренних ощущений, но и окружающий мир формирует у моего «Я» внутренние ощущения, влияя на восприятие, расширяя сознание, добавляя по мере развития новые чувства, смыслы, способности – когнитивные и физические.
И пока человек не начнет совершенствовать своё собственное сознание, он так и будет оставаться биороботом, подобным самцу австралийского жука, хоть и с развитым интеллектом. На самом деле, чем мы лучше? Ведь люди тратят кучу усилий и ресурсов на порно-индустрию, на создание резиновых кукол для секса, даже роботов-кукол с искусственным интеллектом. Целые заводы построены для этого! Да, это очень высокотехнологично, круто, но это не осознанность!
Осознанность – это способность совершенствовать сами чувства, расширять само восприятие мира. Именно осознанность гарантирует процветание и развитие всей системы, помогает избавляться от ошибок и сбоев в эволюционной программе.
Изучая ДНК различных животных, биологи заметили, что в них очень много некодирующих генов, много лишних, повторяющихся участков. Это выглядит как код, написанный плохим программистом. Природа, похоже, лепит из того, что есть, не слишком заботясь о красоте и компактности кода, как и многие современные программисты. При таком подходе немудрено наделать кучу багов (ошибок). Но раз уж природа (хотя бы в лице человека, ну, или лучших представителей человечества) пошла по пути повышения осознанности, то значит есть смысл избавляться от багов и очищать сознание? Необходим ли для этого искусственный интеллект? Не знаю. На мой взгляд, достаточно естественного.
Комментарии
Да, машина способна просчитать все варианты. Но это лишь потому, что не смотря на всю сложность самой игры, шахматы имеют конкретный по числу комбинаций набор. Т.е., если создать быстродействующий аппарат и просчитать все варианты ходов, то игра становится определённой и ... бессмысленной...
Может ли нынче ИИ полностью повторить тот самый вариант исчисления конкретных комбинаций действия?
Так, к сведению. По ящику показывают одного амерского корреспондента, который очень любит русские шутки-прибаутки и часто их вставляет в тему обсуждения. Увы. но его шутки в любом случае выглядят коряво и бестолково.... А тот амер даже не машина....
Компьютер, это дебил который умеет быстро считать на пальцах. А пальцев у него много....
а что такое эмоции, это химия тела, которая и толкает нас на размножение (грубо говоря).
но в том то и дело что одно дело научить машину логике, а другое эмоциям, ... природе понадобились миллионы лет, человеку это не посилам...
Это будет не человек. Это будет другой, иной разум.
Хотя многое зависит от нравственных и культурных ценностей
Наделить железяку человеческим сознанием невозможно в принципе.
Из скольки элементов должен состоять процессор чтобы так работать?
И даже если это удастся повторить это будет НЕ ЧЕЛОВЕЧЕСКОЕ сознание
Принцип неопределенности никто ещё не отменил.
Создать можно все.
И вы правы.
Иной разум будет заботится о себе, в первую очередь.
И сознание, иное, если его удастся построить, легко обойдет все "законы робототехники" сколько ты их не придумывай.
Это будет иной разум, не человеческий.
Замечательная подкладка костюма не гарантирует его хорошего внешнего вида )))
Именно в этом направлении находится ИСТИНА...
- Да! Вопрос не простой. Но мне довелось найти на него ответ.. Потому я и задал его вам, чтобы сравнить с моим. Ведь - "Всё познаётся в сравнении"...
Создать разум, человеческий, невозможно. Он уже есть.
Попытаться сделать, сотворить копию можно конечно.
Но невозможно создать копию полностью повторяющую оригинал. Законы физики, природы изменить невозможно.
Поэтому это будет ИНОЙ разум. И как вы его не приближайте к оригиналу он все равно будет иной и будет стремится получить ресурсы для своего существования, Любыми путями, даже войной. Это неопровержимо.
Создать ИНОЙ разум, можно.
Наделить железяку человеческим сознанием невозможно в принципе.
В человеческом мозге около 100 000 000 000 (100 миллиардов) нейронов.
Каждый нейрон одновременно обрабатывает 20 000 000 сообщений и столько же отправляет.
Из скольки элементов должен состоять процессор чтобы так работать?
И даже если это удастся повторить это будет НЕ ЧЕЛОВЕЧЕСКОЕ сознание.
У человека, как личности, с малолетства масса мотиваций. Человеку нужно есть, укрывать своё жиденькое тельце от окружающей среды, размножаться и прочее, прочее. У человека, живущего в социуме и ощущающего свои цели, есть и масса амбиций самого разного толка. Тут и стремление к значимости, к власти, к уважению, потребности заботиться о ком-то, творческие амбиции и много всего другого. А зачем всё это ИИ, каковой есть просто комбинация цифр и значков, придуманная человеком же и на каком-то устройстве в металлическом или пластиковом ящике.?
Он (ИИ) вообще, никто и ни что. Нажал кнопку и стёр его. Взял и переписал по другому. У ИИ нет никаких целей по жизни, ибо он и не живёт, а значит и способности к Сознанию у него нет и быть не может, ибо он не существо.
См. ниже...
А меж тем, свойства психики определяют человеческие амбиции и претензии к окружающему. И кто в этой паре главный, это вопрос. Цели и задачи субъекта определяет некий постановщик задач в нём. Интеллект же, это только инструмент для их решения. Только инструмент.! А инструменту самому по себе ничего не нужно, стало быть и осознавать нечего.
Хау, я всё сказал...
Думаю, что, в ПРИНЦИПЕ нельзя.
В том смысле, не то что - запретить это пробовать, а потому что... не получится.
Это даже не принципиальный вопрос веры и религии, а той же обычной логики.
Логика - есть антипод эмоций. А эмоции - есть НЕОБХОДИМАЯ алогичная СОСТАВЛЯЮЩАЯ сознания. Т.е., машину надо наделить ... алогичностью.
Но наделять машину алогичностью - это значит обесценить саму идею ИИ, т.е. сделать суррогат человека.
Спрашивается - ЗАЧЕМ пытаться ДЕЛАТЬ (и тупо копировать) механический суррогат, если есть гораздо более "совершенный" (в этом смысле) - природный оригинал?
штраф-роты, которые, своей численностью - могли бы сами смести заград-отряды и разбежаться... (или, как говаривал тот же персонаж: "а что? это ЛОГИЧНО - легче и проще, точки "красноперых" снести-положить, чем, всем, "лечь" в атаке на укрепленные позиции немцев ...) - это тоже "диктат логики над чувствами?"
Такие же многочисленные "примеры" - со "своей" стороны, можете?
(это ни в коем случае - не упрек, и тем более - не пример для подражания, но... той же - логичной объективности, как говорится, ради ...)
хотя, в чем-то, бессознательно и правы: задает по своей логической природе - мужчина, идейно придумывающе и следующе своей программе..., женщина - всего лишь исполнитель его выбора:
"...
– Я не знаю, про что вы меня спрашиваете, – сказал Ваня.
Женщина быстро надела очки – золотые очки с толстыми стёклами без оправы, – высморкалась в маленький кружевной платочек и сказала голосом учёного скворца на деланно правильном русском языке:
– Итак, мальчик, отвечай на все мои вопросы. Ты меня понял? Я буду тебя спрашивать, а ты мне отвечай. Не так ли? – сказала немка, брезгливо вытирая об юбку свои толстые красные пальцы, – мы тебя будем спрашивать, а ты нам отвечай. Ты видишь сам, что я тебя люблю и желаю тебе блага. Мои родители – долгое время жили в России, и я сама прожила здесь более десяти лет. Ты видишь, как я говорю по-русски? Значительно лучше, чем ты. Я совсем, совсем русская женщина. Ты вполне можешь мне доверять. Будь со мной откровенным, как со своей родной тётушкой. Не бойся ...
Ваня молчал.
– Развяжите паршивцу руки, – быстро сказала она по-немецки и прибавила уже по русски, с улыбкой, обнажившей золотой зуб: – Развяжите ребёнку руки. Он об...
"... экивок-чок-мэк-чек-помучок-мок... "сочувственно" "вопросило" "чудище", доедая хищно отхваченный кусок пальца, от протянутой руки, и пережав который, Роланд - стараясь отползти подальше..."
"Темная Башня". С. Кинг.
У "местной публики"?
У "себя"?
Или с меня?
"Галина Иванова отвечает читатель2 на комментарий сегодня в 07:27 #
Что это было?"
"... Что это было?
Неужто было жизнью нашей?
Неужто мы, неужто мы ...
И есть те... двое - он и.. она.
Тогда нам казался весь мир осенним этим пляжем.
Где - море бурь и чаек крик...
И мы..., как берег и волна.
...
Как "берег и волна-а-а ..."
"Элегия". А. Барыкин.
Хотя... нервно-язвительно - не поддеваете, не обзываетесь, не сравниваете ... короче, держите себя в руках (даже, мне - часто не удается) и то Вам - честь.
=======================
а зачем?
Тем более, что пальцев 10, а ноздри всего 2.
Но если вместо пальцев использовать какой-нибудь инструмент - это может резко изменить ситуацию.
Но!
Знанием становится только осознанная человеком информация.
А как этого достичь для искусственного интеллекта?
Мы живём в мире организаций созданных людьми и не только.
Основная цель организаций это защита.
Но!
Есть организации созданные для нападения например - волчья стая.
Если искусственный интеллект объединится в организации, то для своей защиты он может уничтожить человечество(!).
- Исходя из "Священных писаний" , Земля, со всем в ней содержимым, включая нас (Человеков), создана искусственным способом, с помощью технологии.. А обладают жители планеты сознанием или нет, - излишний вопрос...
И что это за технология, если поднапрячь свой разум, то можно догадаться с помощью человеческой логики... Так же можно предположить (вычислить) всё, что Человека заинтересует... Ведь, "Всё в нашем мире ВЗАИМОСВЯЗАНО"