Стивен Хокинг: искусственный интеллект грозит катастрофой
Ученый считает, что искусственный разум может представлять большую угрозу для человечества, если его создатели не научатся избегать возможных рисков.
В статье, написанной Стивеном Хокингом в соавторстве со Стюартом Расселом (Университет Калифорнии), Максом Тегмарком и Фрэнком Вильчеком (Массачусетский Технологический Институт) упоминаются беспилотные автомобили, голосовой помощник Siri от Apple и Cortana от Microsoft, а также компьютеры, побеждающие людей в различных интеллектуальных играх.
К этому следует добавить исследования военных по разработке систем автономного оружия, способного самостоятельно выбирать и уничтожать цели.
Хокинг считает, что в ближайшие десятилетия может быть создан искусственный интеллект, который сможет не только самосовершенствоваться, но и принимать самостоятельные решения, управляя финансами и научными исследованиями, причем результаты этих действий могут оказаться за гранью человеческого понимания, а последствия могут быть катастрофическими.
По мнению Хокинга и его соавторов, преимуществами и достижениями ИИ можно будет пользоваться только до тех пор, пока им можно управлять, однако никто не знает, чего следует ожидать, если он выйдет из-под контроля.
По информации independent.co.uk
Комментарии
В отношении угрозы человечеству. Результаты любой научной деятельности можно использовать, как во благо, так и во зло. Научный прогресс всегда несет и некоторые угрозы человечеству. Но человек способен их блокировать. Самая большая угроза человечеству не какой-то «интеллект», который может выйти из под контроля, а политическая система управления жизнедеятельностью общества, в которой процветает невежество людей, принимающие ответственные решения.
Забываем, что мы соТРУДники Б-га, а не кошки на завалинке. Можно ли сказать, что сейчас мы живём более насыщенной жизнью чем жили в 19 веке? Разве что насыщать утробу стали больше... Уже и машинами лень управлять--пусть они сами управляют друг другом...
ИИ не имеет самого главного--эмоций и моральных установок,и встроить их в машину маловероятно: сие не поддаётся математике. Даже наша попытка перейти на жесткую регламентацию повседневной жизни--приказы и инструкции на каждый чих--просто плодят снежный вал бумаги с печатями.
Триумф Воли отдельных личностей просто рождает Триумф Лени большинства...
Есть конечно одна штукенция, которая заставит любого бюрократа стать честным, но пока она недостижима для людей - это телепатия. Тогда врать станет бессмысленно и каждый человек будет виден как на ладони. Для людей сразу будет ясно чего хочет тот или иной человек. В управлениии государством окажутся действительно честные люди, которые будут заботиться не о собственных карманах, а о людях и тогда на планете Земля может наступить рай, о котором так долго и безуспешно говорили клирики. Заодно сразу же и выяснится, кто действительно веровал, а кто просто притворялся...
То же самое и с машиной времени!