«Крестный отец искусственного интеллекта» предупредил об угрозе неконтролируемого развития ИИ

На модерации Отложенный


Искусственный интеллект стремительно развивается и внедряется в жизнь человека. OpenAI, Microsoft и Google предлагают легкодоступные инструменты ИИ. Технология, безусловно, изменит мир, но ученые предупреждают, что она таит в себе серьезную опасность.

Некоторые чат-боты сегодня довольно «продвинуты» для того, чтобы понимать и создавать естественный язык на основе онлайн-контента, на котором они обучаются.

Не так давно был выпущен чат-бот ChatGPT от OpenAI с элементами ИИ, который может общаться с человеком в режиме диалога, сочинять стихи и даже писать программный код. Все это он делает по вашим запросам, которые вы отправляете «роботу» через интерфейс-чат окна или интерфейс мессенджера, например Телеграмм. Что примечательно, нейросеть помнит контекст беседы и отвечает на вопросы с учетом предыдущих вопросов и ответов.

Кроме чат-ботов уже набрали и продолжают набирать популярность нейросети другого типа – графические. Самой продвинутой считается MidJourney, способная погрузить человека в художественный мир, созданный собственной фантазией.

Но у искусственного интеллекта есть потенциал для более продвинутого использования. Британский и канадский учёный Джеффри Хинтон «крестный отец искусственного интеллекта» (хорошо известен своими работами в области ИИ) сообщил, что развитие технологии можно сравнить с промышленной революцией, изобретением электричества или даже колеса.

Хинтон начал изучать искусственный интеллект более 40 лет назад, когда он казался чем-то из области научной фантастики. «Я был немного странным, потому что делал то, что все остальные считали ерундой», - сказал Хинтон. Вместо того чтобы запрограммировать алгоритмы логики и навыков рассуждения в компьютеры, как пробовали делать некоторые создатели, он пробовал имитировать работу мозга и дать компьютерам возможность самостоятельно определять свои навыки, а технологию превратить в виртуальную нейронную сеть. «Я думал, что это было совершенно нелепым занятием», - сообщил Хинтон. Тем не менее сегодня мы видим реальные результаты.

Данная технология в будущем может сократить число рабочих мест, но некоторые исследователи заявляют, что она не заменит труд людей, а упростит и ускорит их работу. Сам Хинтон, в свое время согласившийся с данным мнением, теперь более осторожен в своих суждениях. Он считает, что в ближайшем будущем компьютеры смогут генерировать идеи для самостоятельного совершенствования, что может быть весьма опасным, если данный процесс не будет контролироваться со стороны человека. Ученый отмечает, что человечеству необходимо научиться контролировать данный вид технологии, иначе ограниченный круг компаний или правительства получат невероятные возможности власти.

Хинтон не исключил возможного сценария уничтожения человечества искусственным интеллектом. Это не невероятно, вот и все, что я скажу», - заявил ученый и добавил, что людям необходимо беспокоиться об этих проблемах уже сейчас.