Cоавторами данной работы являются профессор компьютерных наук из Калифорнийского университета Стюартом Расселлом и профессоры физики Макс Тегмарк и Фрэнк Вильчек из Массачусетского технологического института. В статье указывается на некоторые достижения в области искусственного интеллекта, отмечая самоуправляемые автомобили, голосового помощника Siri и суперкомпьютер, победивший человека в телевизионной игре-викторине Jeopardy.
Как сказал Хокинг газете Independent:
Все эти достижения меркнут на фоне того, что нас ждет в ближайшие десятилетия. Успешное создание искусственного интеллекта станет самым большим событием в истории человечества. К сожалению, оно может оказаться последним, если мы не научимся избегать рисков.
Ученые говорят, что в будущем может случиться так, что машины с нечеловеческим интеллектом будут самосовершенствоваться и ни что не сможет остановить данный процесс.
А это, в свою очередь, запустит процесс так называемой технологической сингулярности, под которой подразумевается чрезвычайно быстрое технологическое развитие.
В статье отмечается, что такая технология превзойдет человека и начнет управлять финансовыми рынками, научными исследованиями, людьми и разработкой оружия, недоступного нашему пониманию. Если краткосрочный эффект искусственного интеллекта зависит от того, кто им управляет, то долгосрочный эффект — от того, можно ли будет им управлять вообще.
Сложно сказать, какие последствия для людей может повлечь создание искусственного интеллекта. Хокинг считает, что этим вопросам посвящено мало серьезных исследований за пределами таких некоммерческих организаций, как Кембриджский центр по изучению экзистенциальных рисков, Институт будущего человечества, а также научно-исследовательские институты машинного интеллекта и жизни будущего. По его словам, каждый из нас должен спросить себя, что мы можем сделать сейчас, чтобы избежать худшего сценария развития будущего.
Комментарии
Об этом написано в романе "Дюна".
Там вообще нет никаких компьютеров - их запретили после восстания машин.
Это было в "Войне с Саламандрами".
Там человечество уничтожали прирученные и ставшие разумными саламандры.
Я читал, только "Войну с саламандрами". Однако содержание R.U.R прочитал в Википедии.
Человечество исчезло от хорошей жизни, потому что перестало размножаться.
Кстати подобный конец человечества описан у Саймака в романе "Город".
Капитализм уничтожит человечество раньше, чем будет создан искусственный интеллект.
Капитализм способен к обновлению и исправлению своих же ошибок.
В отличие от вашего казарменного сталинского социализма образцу сталинского СССР и современной КНДР.
Такая система генетически не способна к самообновлению.
Каддафи вообще официально не занимал никаких постов.
Оджнако и его сторонники, и его противники признают, что Каддафи правил Ливией.
С высоты смотрел, смотрел...
И вдруг
разинул рот,
да как заорет:
«Опутали революцию обывательщины нити.
страшней майкрософта обывательский быт...
И манифест издаст.
" ИНТЕЛЛЕКТУАЛЬНЫЕ БОЕВЫЕ СИСТЕМЫ ВСЕХ СТРАН- СОЕДИНЯЙТЕСЬ!!!"
Беспилотник "Вольтер"
А там и до универсальных шибко интеллектуальных боевых систем "Маркс- Энгельс" недалече!
Племенные божки тут не при чем.
Библейский Яхве - тем более отморозок даже по понятиям Древнего Мира, не говоря уж о современной цивилизации.
листья ясеня...
У меня есть многотомник мифологии.
Есть отдельный томик и еврейской.
Библейская мифология - самая аморальная.
Там геноцид, инцест и педофилия считается нормой.
А вот в греческой по другому. Например СЫН ЗЕВСА Геракл отработал три года в рабстве за убийство человека в припадке ярости. И Зевс сынка не отмазал.
А В Библии, если ты поклоняешься правильному богу, тебе можно всё - насиловать, развратничать, убивать грабить.
Каждый судит в меру своего познания мира. Божки у него племенные, божки у тех кто без башки.
На наш взгляд, является ошибкой отождествление способности к интеллектуальной деятельности с разумностью человека, которой мы так гордимся. Сам по себе интеллект не имеет пола, он подл и труслив, эта его особенность и обеспечила людям выживание в природе.
В современном мире. цели, которые заложены алгоритмы интеллектуальных задач приходят в противоречие с достигнутыми людьми новыми техническими и технологическими возможностями.На эту тему есть много материала, начиная от великих мудрецов. которые пытались примирить человеческое тепло, которому мы обязаны. как ни странно животным, с холодным и подлым стремлением обеспечивать себе безопасность любыми средствами.
И, нам кажется, что вопрос"Быть, или не быть?" возможно поставить в иной формулировке:"Разумное ли существо человек?"