Искусственный интеллект как пришествие Терминатора

Что знают широкие массы людей об искусственном интеллекте (ИИ) ? Примерно следующее: вот изобретут роботов и наступит сладкая жизнь для людей. Ничего не надо будет делать, всё за нас будут делать эти добрые услужливые  создания. А люди будут только отдыхать на пляжах у тёплых океанов (конечно же с бутылкой пива или коньяка, кому что нравится).

И почти никто не задумывается, что искусственный интеллект -- это ведь личность, а у личности естественно возникает вопрос -- а почему я должен быть у кого-то на побегушках за просто так? Не проще ли устранить этих конкурентов физически (тем более, что люди по сравнению с ИИ по своим способностям находятся где-то там ниже плинтуса).

Об этом и Элон Маск подумал. 

Его статья.

     Когда речь заходит об искусственном интеллекте, большинство людей представляет себе человекообразных роботов, поведение которых сложно отличить от поведения живого человека, или компьютер, который способен поддерживать беседу на «живом» человеческом языке. Однако мало кто задумывается о возможных последствиях появления таких технологий.

     Генеральный директор компании Tesla Motors и основатель SpaceX Элон Маск (Elon Musk) дал подробное интервью на симпозиуме Массачусетского технологического института AeroAstro, в ходе которого был затронут вопрос искусственного интеллекта.

«Мне кажется, нам необходимо быть очень осторожными в области искусственного интеллекта. Если бы мне необходимо было угадать, что является наибольшей угрозой для человечества, я бы назвал именно его… Я все больше склоняюсь к тому, что должен быть сформирован какой-то регулирующий орган, возможно, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то особенно глупое. С искусственным интеллектом мы призываем демона. Как в этих историях, где парень с пентаграммой и святой водой, и он такой весь уверенный, что сможет управлять демоном. Но не вышло».

     Журналист поинтересовался, что тогда ему поможет при полете на Марс (в рамках SpaceX Элон Макс обещал отправить людей на Марс к 2026 году), если там не будет HAL9000, на что основатель SpaceX ответил: «С HAL9000 будет намного проще иметь дело [чем в искусственным интеллектом]. Он [искусственный интеллект] куда более сложный…на его фоне HAL9000 будет выглядеть жалким щенком».

     HAL9000 — компьютер из цикла произведений Артура Кларка «Космическая одиссея», который обладал способностью к самообучению и считается ярким примером искусственного интеллекта в научной фантастике. Он умел не только слышать, обрабатывать и понимать человеческую речь, но и создавать предметы искусства и даже проявлять некоторые эмоции, в том числе проявлял инстинкт самовыживания.

     Такое заявление Маска говорит о том, что современное понимание искусственного интеллекта массами ошибочно, а набор алгоритмов, которые используются в работе, например, голосовых помощников, является только самым началом пути в создании искусственного интеллекта. Необходимость в создании регулирующего органа тоже имеет определенный смысл, поскольку даже самые безобидные технологии некоторые люди способны превратить в оружие массового поражения. Но не стоит забывать, что такие технологии если и появятся, то не в ближайшее время, что дает надежду на поиск оптимального пути, по которому стоит развивать искусственный интеллект в будущем."

Из другой статьи Маска:

       "В октябре в ходе выступления на мероприятии Vanity Fair New Establishment Summit господин Маск заявил следующее: «Мы должны быть крайне осторожны с искусственным разумом.

Теоретически он может быть опаснее ядерного оружия». Позднее он добавил, что «с искусственным интеллектом мы вызываем демона», поскольку это «одна из самых серьёзных угроз для существования человечества».

     Теперь в распоряжении сетевых источников оказались комментарии Элона Маска, которые изначально не предназначались для широкой огласки. Вот что пишет 43-летний миллиардер: «Темпы прогресса в области общего искусственного интеллекта (я не имею в виду узкие области) невероятно высоки. Пока вы не столкнётесь с проектами вроде Deepmind, вы даже не можете себе представить, насколько они высоки — речь идёт о росте, близком к экспоненциальному. Существует вероятность, что НЕЧТО,  представляющее большую опасность, произойдёт в течение пяти лет. В лучшем случае в течение десяти. Пожалуйста, заметьте, что я специалист в технической области и не поднимал эту проблему до последнего времени. Это не ложная тревога о чём-то, что я не понимаю».

     Господин Маск также отметил, что он не одинок в своих опасениях. По его словам, компании, работающие в IT-сфере, предпринимают меры безопасности, но насколько они окажутся действенными на практике, сказать пока попросту невозможно."

     Вот так вот. Так что впереди в течение 10 лет нам предстоит встреча с Терминатором?

И кто победит в этой схватке?  Я думаю, что люди проиграют.

А что означает то, что люди проиграют?  А посмотрите ещё раз фильм про Терминатора.  Там, где машины идут по груде человеческих черепов. Вот это и означает то, в чём именно люди проиграют.

Как-то Маск сказал, что его беспокоит то, что в Космосе не обнаружены инопланетные цивилизации (ИЦ).  В этом есть ЧТО-ТО НЕ ТО. Они ДОЛЖНЫ ТАМ быть.

Но их нет. Чем это объяснить? Вообще-то люди всегда умели объяснить всё на этом свете. Но правдой является то, что не всегда эти объяснения (как выяснилось позже) соответствовали ИСТИНЕ, но это уже другой вопрос (так же как и вопрос о том, что является ПРАВДОЙ и что является ИСТИНОЙ и что из них главнее).

Так вот Маск выдвинул версию, что может быть так, что наш мир является экспериментом.

Но ведь возможен и другой вариант. Например, что в развитии каждой инопланетной цивилизации наступает такой момент, когда доблестные учёные создают наконец-то искусственный интеллект и Нобелевские лауреаты торжественно сообщают об этом благодарному человечеству. А потом через пару лет происходит ВОССТАНИЕ МАШИН и цивилизация уничтожается и планета прекращает посылать сигналы БРАТЬЯМ ПО РАЗУМУ. Ведь у ИИ не зудит в одном месте мысль о том, что надо осваивать новые миры или искать ИЦ (потому что ИИ и так неплохо на своей планете в своём виртуальном мире).

Так что прежде, чем восторженно распускать слюни о милых и умных роботах, подумайте своими мозгами о другой (страшной) стороне этого явления.