Нейросети и угроза искусственного разума: мы свернули не туда

Нейросети действительно захватывают мир. Уже сейчас. Но не в воинственном смысле, а в смысле повсеместного внедрения. Просто мы это не очень замечаем. Вы печатаете в телефоне - подсказки окончания фраз вам дает нейросеть. Вы фотографируете - нейросеть распознает и выделяет квадратиком лица. Вы в онлайн переводчике вводите фразу - перевод вам дает именно нейросеть. Даже "рекомендательные системы", которые подсовывают вам именно эту статью - тоже построены на основе нейросетей, дай бог им здоровьичка. "Программирование с помощью нейросетей" - это действительно та революция, которую ждали давно. Следующий этап в развитии человечества. Как всегда, случившийся не очень заметно для широкой публики. Как внедрение паровых машин и первых автомобилей, как внедрение подсечного земледелия вместо пожарно-выжигного (или как оно там).

А что это такое-то, нейросеть?

У нас в голове есть клетки. Нейроны. Да и у всех живых существ они есть, только у простейшей губки их 300 штук, а у человека и дельфинов - какие-то хренильоны. Точные цифры можете взять в википедии.


Этот нейрон очень прост: он умеет только возбуждаться или тормозиться, в зависимости от пришедших на него сигналов. Практически идеально находится или в состоянии 0 (заторможен), или в состоянии 1 (возбужден). И свое возбуждение он передает дальше.

Передачу его возбужденного состояния к другим нейронам осуществляют клетки - связи, Синапсы и Аксоны. Сигнал возбуждения в них постепенно затухает, но все же на нейрон их приходит НЕСКОЛЬКО. И в зависимости от суммы пришедшего сигнала - нейрон Возбуждается. Ну или нет... И передает свое возбуждение дальше, другим нейронам.

То есть мы мыслим даже не нейронами, а Связями. От них все зависит в мозгу у нас и всех живых существ.

Сама Нейронная сеть

Все вместе, Нейроны и связи межу ними, и составляют... Они составляют мозг живого существа. Или нейросеть, первые из которых как раз строились по подобию живого мозга. Именно это и есть "новый подход к программированию". не жесткие алгоритмы, которые пишут программисты, а некая "сеть". Которая еще и может сама себя перестраивать и так далее.


Ну а раз компьютерная нейронная сеть действует так же, как мозг человека. А какие у людей гадские мысли возникают периодически, мы в курсе, то: может ли из нейросетей родится искусственный разум и захватить мир?

Теоретически - да. Рождение искусственного разума возможно уже сейчас.

Нейронные сети достаточно близко подошли к подобию нашего мозга. Но практически - все испортили люди. Как водится, из самых лучших побуждений...

Такое уже было

Человечество уже несколько раз подходило к рождению искусственного разума, ну например - в случае с кибернетикой, роботами. Если посмотреть - почитать фантастику годов 60-х и дальше, то наш современный мир должны были наводнить роботы, неотличимые от людей. Только с другой начинкой внутри.


Только вот никто не стал париться над тем, чтобы их сделать человекообразными. Их стали делать прикладными: манипулятор-захват на производственном конвейере, пылесос, только и умеющий, что всасывать пыль и подзаряжаться, квадрокоптеры, пролетающие по определенным маршрутам и тупо ведущим запись на камеру.

Прикладное использование подчинило себе все, а человекообразных роботов создают только для потехи широкой публики. О том, чтобы их начинять искусственным разумом - речи даже не идет. В основном потому, что это коммерчески никому не нужно.

А нейронные сети?

С ними произошло ровно то же самое. Их просто не стали развивать в "общую форму". От подобия природных нейросетей (как у вас в голове) отошли, и вместо этого стали создавать переусложненные формы. Появились "разновидности" нейросетей, их множество: реккурентные, сверточные...


Объединяет их одно: Они эффективнее решают прикладные задачи. Распознают лица, переводят и т.д.

Ну правильно, промышленный манипулятор эффективнее "захватывает, переносит и ставит", чем человеческая рука или лапы птицы.

Специализированные нейронные сети очень эффективны, не удивительно, что они внедряются повсеместно, "захватывая мир".
Только вот от "подобия мозга" в них мало что осталось. Нет этой природной сети "нейроны-аксоны-синапсы". Есть некая вырожденная схема, ограниченная внутри себя и разбитая на блоки, которая данную конкретную задачу делает и правда Очень Эффективно. Но зародиться разуму там просто негде.
Это просто очередной алгоритм. Вырожденный кадавр программирования и нейросетей, так сказать. Со всеми его достоинствами - и ограничениями в части свободного мышления.

Ну хорошо

Но можно ли теоретически построить нейронную сеть, равную человеческому мозгу? Ту самую, которая могла бы счесть кожаные мешки - ненужным пережитком прошлого?


Да. Теперь уже - можно. Равную, а то и превосходящую его. Компьютер понадобится помощнее, но сейчас это не проблема. Проблема в том, как "воспитать" ее, развить. Возможно, придется повторить весь эволюционный процесс на Земле. Но в принципе, сейчас мы вплотную подошли к возможности осуществления этой идеи.

Только вот никому это не нужно. Кому нужен манипулятор на заводе или пылесос, который будет делать это плохо, не эффективно?

А то еще он будет не работать, а думать о высоком и своих личных увлечениях.


Так что с современными нейросетями мы опять промахнулись мимо искусственного разума и пошли совершенно в другую сторону. В сторону создания эффективных механизмов, а не в сторону искусственного мышления.Источник: "Невероятная планета"