ЭЛОН МАСК: РАЗРАБОТКА ИИ СРОДНИ ПРИЗЫВУ ДЕМОНОВ
Исполнительный директор компаний Space X и Tesla, Элон Маск, приняв участие в интервью Массачусетскому технологическому институту успел затронуть сразу несколько интересных тем, одной из которых был вопрос, касающийся развития искусственного интеллекта. Как мы уже отмечали ранее, Маск очень скептически относится к развитию в этом направлении, а в этот раз так и вовсе назвал «игры» с искусственным интеллектом сродни «призыву демонов».
«Я считаю, что мы должны быть очень осторожны в вопросах улучшения искусственного интеллекта. Если просто предположить, что именно в мире может представлять наибольшую опасность для нас всех, то это именно ИИ. Нам действительно следует быть очень внимательными в этом вопросе. Нужно создавать специальные инстанции, чьей задачей будет наблюдение за развитием этой сферы на международном уровне. Просто для того, чтобы однажды не прийти к выводу о том, какими же глупыми и беспечными на самом деле мы оказались», — сказал всегда улыбчивый, но сейчас с абсолютно серьезным лицом Элон Маск.
«Разрабатывая искусственный интеллект, мы фактически пытаемся вызвать демона. Только в случае опасности, если брать конкретно этот случай, парень с пентаграммами на теле и святой водой в руках, говорящий всем нам о том, что он может контролировать демона, ну, знаете, как в фильмах, здесь уже не поможет».
Своей метафорой о «призыве демонов» Маск хочет всем сказать, что нам следует быть осторожнее в работе с ИИ, а за такими компаниями, как Google, занимающимися развитием искусственного интеллекта, следует вести более пристальное наблюдение.
Комментарии
Однако построен уже автомобиль, перемещающийся быстрее бегуна, и давно построены корабли, что плавают быстрее дельфина...
http://www.raai.org/library/books/aizenk/aizenk.htm
это - всего лишь определение. Научное. И небесспорное.
КАК это работает - по сию пору не представляет себе никто.
касаемо "кораблей, плавающих быстрее дельфина" - профанация. Это - как утверждать, что аппаратно программный комплекс именуемый персональным комьютером - обладает интеллектом и мыслит самостоятельно
В нашем случае достаточно, чтобы аппарат (назовем это так) мог ставить самостоятельно перед собой цели и выбирать пути их достижения.
Перед нами - еще не враг, но уже противник, ибо его целей мы в таком случае контролировать не можем.
И аппарат превратится в противника, если его цели станут противоречить нашим, даже без намперения с его стороны конфликтовать с нами. И не окажется ли оный аппарат (со временем) искуснее в достижении своих целей, чем мы - в достижении своих?
Короче, Маск - и я вслед за ним - считаю, что изготавливать аппараты, могущие сами ставить перед собой цели - взращивать соперников, и потенциальных врагов.
Маск именно об этом и говорит: как только появятся на земле люди, которые смогут представить себе, как именно работает естественный интеллект, чтобы сформулировать его в терминах функций, то можно считать, что и задача по созданию ИИ решена. Потому что технологии - это дело наживное. Главное суть понять.
Только они досконально знают какие принципы ими заложены в программу и как программа обрабатывает входящие данные.
Поэтому, спрашивать о потенциальной опасности ИИ можно только этих людей. Скорее всего такой вопрос может вызвать только гомерический хохот разработчика.
Глянул анонсы. Там вроде бы про ИИ, который то ли сам себя перепрограммирует, то ли создает более совершенный...
Все это чепуха - нам нечего делить с ИИ, да и выключить компьютер всегда можно. :)))
Но я с Вами согласен в том, что нам нечего делить с ИИ. Не придётся и драться.
:)))
Уже сейчас многие решения принимаются компьютером и выполняются людьми.
Ну и что? Только дурак скажет, что он гордый и не будет подчиняться тупому противопожарному автомату, включившему транспарант "Пожар. Покиньте помещение!"
Понимаете, вот это " какие принципы ими заложены в программу и как программа обрабатывает входящие данные" - не имеет к ИИ никакого отношения. Понятия "программа" и "интеллект" не имеют между собой ничего общего.
Сейчас попробую привести пример.
Современные продвинутые системы наведения у вояк - якобы ставят себе промежуточные цели "самостоятельно". Признак интеллекта? А опаньки! Не ставят они себе целей. А делают выборку из заранее вбитых вариантов. Алгоритм выборки достаточно сложный, но - на интеллект никак не тянет.
Точно так же, в игрушке UT в свое время былм боты самообучающиеся. Я с них бывал поражен, но та прога тоже никак не может считаться ИИ. Ибо - обычный перебор вариантов по условиям, и закрепление результативных последовательностей.
Примерно так.
Если дать однозначное определение разума или интеллекта, свободного от понятий человека, живого мозга или нейронов, то нет никаких принципиальных сложностей получить на компьютере результат, соответствующий этому определению.
Наиболее сложное для построения ИИ (но достаточно размытое) определение, дал еще фон Нейнман - неотличимость в "разговоре" от человека.
Дело в том, что крупные, стратегические цели обычно подразумевают сложные действия, имеющие свои, промежуточные цели.
Вот например, тот же марсианский ровер. Можно контролироать каждый шаг - но практически трудно и малоэффективно. А можно поставить цель - дойти до такой-то горушки, и пусть аппарат сам решает, как именно это сделать, при этом ставя себе и решая ряд конкретных задач, со своими целями - и при этом ставя эти задачи самостоятельно.
Но можно поставить еще более общую цель - найти воду, с тем, чтобы аппарат сам ставил промежуточные цели (куда и как идти).
И вот тут уже остается один шаг до того, чтобы аппарат смог сам поставить и конечную цель. То есть он уже полностью для этого готов, и для его сдерживания придется прибегать к аналогам знаменитых "правил Азимова".
Маск хочет сказать, что правила эти могут однажды сдать, или их составитель может чего-то (какой-то ситуации) не предусмотреть, и мы получим то, что обыватель называет "бунтом роботов".
Машины, которые будут получать результат не вычислением\перебором вариантов - уже компьютерами называть некорректно.
Современные продвинутые системы наведения у вояк - якобы ставят себе промежуточные цели "самостоятельно". Признак интеллекта? А опаньки! Не ставят они себе целей. А делают выборку из заранее вбитых вариантов. Алгоритм выборки достаточно сложный, но - на интеллект никак не тянет.
Понятно, что такая ситуация не навсегда. Но когда появятся технологические возможности для построения подобных систем - будет и теоретическое\философское обоснование, и "подводные камни", которые пугают Маска в любом случае будут обдуманы и обойдены.
Параллель с ядерным оружием - в пиндостане после его применения в Японии схватились за голову, и потиху помалу до них дошла концепция "оружия, которое не применяется". И здесь - та же ситуация. Только человечество уже малость научено, и по краю ходить не хочет. В особенности те, кто разработкой ИИ плотно занимаются. Поэтому вряд ли кто будет строить подобную систему до конца не понимая сути ее работы и последствий. Мало кого устроит такой "вертикальный прогресс".
Во-вторых, тут Вы несколько ошибаетесь.
Да, современный компьютер следует программе (вообще-то, даже кодам, самого низшего уровня, адекватным написанной программе), но это совершенно не меняет дела: разве мы сейчас можем утверждать, как именно действует мозг, единичный нейрон которого тоже, в общем, весьма прост, и имеет, похоже, два состояния?
Не стоит пытаться сравнивать работу компьютра на данном этапе с работой мозга, и потому что последняя пока непонятна (а трудно сравнивать понятное с непонятным, верно?), и потому, что неочевидно, что целеполагающее поведение может появиться только и исключительно по типу деятельности мозга.
Машины, играющие в шахматы - они, знающий понимает - работают перебором вариантов, но... в результате играют очень сильно, и известный критерий - догадаться, кто в "черном ящике" - человек гроссмейстер или машина, не выйдет...
Но ведь и Вы согласны, что озабачиваться надо - только верите, что когда прийдет пора, то и озаботятся.
Но тут сложно... Как Вы думаете, что было бы, если бы у японцев тоже была атомная бомба, и она была бы сброшена, после Хиросимы, на наш город, хоть на Сиэттл?
Могу Вас сказать - Япония стала бы радиоактивной пустыней раньше, чем появилась бы концепция "оружия, которое не применяют"...
Теперь по теме: озаботиться стоит тем, чтобы не пытаться построить то, сути чего мы не понимаем, до того, как эта самя суть не будет изучена в достаточной мере.
Кстати, состояние нейрона - далеко не 0\1. Вы забыли про химическую составляющую.
Опять же, Вы таки вновь спешите.
"Да, современный компьютер следует программе" - программе(комплексу программ) следует ЛЮБОЙ компьютер. И тот, кто "ведется" на его "умность", и восторгается результатами работы той же "алиски" к примеру - натурально не понимает сути.
Насчет же остального, то есть уже шаги в сторону самопрограммирующихся устройств, и тем более странно, что Вы пытаететесь представить "вечные" утверждения по поводу развития этого дела в будущем.
И тем более странно, как может человек одновременно утверждать, что "мы не знаем, что такое интеллект", и одновременно при этом уверять, что он с чем-то "не имеет ничего общего".
2) Достаточное (не полное) понимание электрохимии пришло только в первой половине 20-го века. При этом:
а) Гальванические покрытия, судя по всему, получали еще в античности.
б) Первый документированно работающий гальванический элемент был построен в конце 18-го века.
3) Что такое электричество, с натяжкой можно считать понятым только после написания уравнений Максвеллом. Вторая половина 19-го века.
К 70-м годам 19-го уже была электрическая промышленность, осветительные приборы, первые моторы...
4) Как работает иглоукалывание, до сих пор толком неизвестно - а ему уже несколько тысяч лет, и оно - таки работает...
Примеры можно множить. Вывод - очевиден: то, что понимание сильно отстает от практического применения, скорее правило, чем исключение.
Кацапам стоит помалкивать, ибо их манера "цивилизованного решения споров" хорошо известна, и дала нам много примеров, только в последнее столетие, Финляндия-Восточная германия (1953), Чехословакия, Афганистан, а потом уж и Грузия. и...
2) Так что лучше Вам, действительно, остановиться в этом движении
За электрохимию ты, в целом, очень плотно подвел, ценю. И вывод - вполне кошерен.
Но есть нюанс - масштабы несколько разнятся.
Понимаешь, срачи подобного рода - сводятся к "аргУментам через crtl+c\ctrl+v" в рекордные сроки. И остатков интереса в них не остается через 5-6 постов. Оно надо?
Этт слишком узкая задача.
А насчет понимания - я уже указал на то же иглоукалывание, которое как медицинская процедура достигла большй эффективности уже тысячу лет назад, а понимания её действия нет и сегодня.
Я не уверен. что для получения результата всегда необходимо понимание. Тем более - полное, или по крайней мере обширное понимание.
На Вашем месте я уж если бы не извинился, то хоть сказал бы что-то вроде "упс", и больше к теме кто тут "кацапее и пиндосее" не возвращался, а сосредоточился бы на обсуждении возможностей создания ИИ.
Но однако счел нужным довести до Вашего сведения и свои предпочтения.
Так что тут - без обид.
Философия берется отвечать на эти вопросы, называя их своим главным предметом, но оказывается самой глупой и неконструктивной.
Врачи-психиатры тоже не годятся, так как могут лишь отличить больного человека от здорового и то не очень уверенно и только в крайних случаях.
Вот и остаются программисты, которые делают ИИ в рамках ТЗ и своего понимания.
Ха! До Маска дошло, что он упустил один прикольный бизнес? Интересно, что он про генетические конструкторы и наноассемблеры говорит? Тоже стращает?
Вы все зря волнуетесь, мы - ваши друзья
Там главный герой, которого играет Антонио Бандерос, переходит на сторону роботов, пытающихся выйти из под контроля людей (как тупиковой ветви в развитии разума во вселенной) и продолжить эволюцию уже на технологическом, постбиологическом уровне...
50 лет назад тоже рисовали антропоморфных роботов. Нецелесообразно делать что-то универсально - специализированное лучше. Сегодня мы имеем кучу недороботов: стиралку, посудомойку, пылесос.
ИИ нету и не может принимать решение? Посмотрите на Big Dog. Он принимает решения как минимум по маршруту к точке. Повесьте на него пулемет с тепловизором и научите стрелять по светящимся фигуркам.
Нашли чего бояться. Вот то что любой миллионер в наше время может позволить себе купить ДНК-генератор и все необходимое к нему на Ибей, нанять студентов/ученых и выводить свою супербактерию - это никого не волнует.