Искусственный интеллект нам не угроза

На модерации Отложенный Создание ИИ лишь улучшит нашу жизнь, заявили эксперты
Обыватель боится роботов и искусственного интеллекта. Можно долго перечислять произведения научной фантастики, в которых механические слуги и ИИ были созданы и прочно заняли важную нишу в нашей жизни, но по какой-то причине вышли из под контроля и обернулись против своих создателей.

В последнее время наводить первобытный страх начали крупные и влиятельные фигуры в мире науки и информационных технологий. В частности, генеральный директор Tesla Motors Элон Маск заявил, что ИИ «потенциально опасней ядерного оружия», а английский физик Стивен Хокинг назвал ИИ «величайшей ошибкой человечества».

Орен Эциони (глава Института искусственного интеллекта Аллена) исследует искусственный интеллект уже на протяжении 20 лет, и он полностью спокоен. Другие специалисты области высказывают похожие мысли.

Согласно его заявлению, известные мрачные сценарии развития ИИ неправильны по одной простой причине: они путают разум с автономией, и предполагают, что компьютер начнёт с помощью собственной воли создавать свои цели, а доступ к базам данных и вычислительные возможности помогут победить людей.

Эциони же считает, что эти два аспекта далеки друг от друга. Калькулятор в руках человека не начинает делать свои собственные вычисления — он всегда остаётся инструментом для упрощения расчётов, которые иначе было бы слишком долго делать вручную.

Аналогичным образом искусственный интеллект — это инструмент для произведения тех видов работ, которые либо слишком сложны, либо слишком дороги для нас: анализ больших объёмов данных, проведение медицинских исследований и так далее. ИИ требует человеческого участия и управления.

Пугающие автономные программы существуют: это кибер-оружие или компьютерные вирусы. Но умом они не обладают. Самый «умный» софт имеет очень узкую нишу применения, и программа, которая может обыграть человека в интеллектуальную игру, как этосделал Уотсон компании IBM, имеет нулевую автономию.

Уотсон не мечется в желании сыграть в другие телевизионные игры, он не имеет сознания. Как сказал Джон Сёрль, Уотсон даже не понимает, что он выиграл.

Доводы, направленные против ИИ, всегда оперируют гипотетическими терминами. К примеру, Хокинг говорит, что развитие полностью искусственного интеллекта может означать конец человеческой расы.

Проблема в этих настроениях состоит в том, что зарождение полностью искусственного интеллекта в ближайшие двадцать пять лет менее вероятно, чем гибель человечества от падения на Землю астероида.

Мы со времён рассказа о чудовище Франкенштейна боимся искусственных слуг, и если верить Айзеку Азимову, мы начнём испытывать состояние, названное им комплексом Франкенштейна.

Вместо того, чтобы бояться того, что технология может обернуться против нас, нам лучше сфокусироваться на том, как ИИ сможет улучшить нашу жизнь.

К примеру, издание Journal of the Association for Information Science and Technology утверждает, что мировой выход научных данных удваивается каждые два года. Специалист при всём желании уже не в состоянии уследить за всем. Поисковые машины показывают нам терабайты данных, с которыми человек не сможет ознакомиться и за всю свою жизнь.

Поэтому учёные работают над ИИ, который будет отвечать, к примеру, на вопрос, как тот или иной препарат повлияет на организм женщин среднего возраста, или хотя бы сможет ограничить число статей для поиска ответа. Нам нужно программное обеспечение, которое следит за научными публикациями и помечает важные, но не на основе ключевых слов, а базируясь на понимании информации.

Эциони замечает, что сейчас мы находимся на очень ранней стадии развития искусственного интеллекта: текущие наработки не могут даже читать учебники младшеклассников, программам не под силу сдать контрольную десятилетнего ребёнка или хотя бы понять предложение «я бросил мяч в окно, и оно разибилось».


Работа связана с преодолением множества трудностей, а скептики упускают из виду, что ещё на протяжении многих лет ИИ будет слабее ребёнка. Мир кибер-оружия не является сферой этого обсуждения, поскольку он не относится к искусственному интеллекту.

Вторит Эциони профессор психологии и неврологии Нью-Йоркского университета и глава Geometric Intelligence Гэри Маркус. Он также говорит, что искусственный интеллект ещё слишком слаб, чтобы можно было производить такие далекоидущие выводы, но также делает замечания о цене багов.

Чтобы принести убытки на миллиарды долларов и убивать людей, программе не обязательно иметь ум для создания злого умысла: натворить бед может и обычный торговый робот за счёт заложенных в него ошибок.

Ошибка в программе управления беспилотным автомобилем может привести к аварии и даже смерти, но это отнюдь не означает, что нам следует немедленно забросить исследования в этой области — эти программы смогут спасти сотни тысяч жизней в год.

Впрочем, паникёры тоже в чём-то правы. За последние десятилетия компьютеры превосходят человека в новых и новых задачах, и невозможно предсказать, какие уровни ограничений потребуются для минимизации рисков их деятельности. Проблема не в захвате мира машиной, проблема в ошибках, заложенных в ИИ.

Как пишет глава Pecabu Роб Смит в статье «Чем не является искусственный интеллект», выражение «искусственный интеллект» скоро станет очередным бессмысленным термином, который ставят везде ради самого факта его использования. Так уже случилось с «облаком» и «биг дата».

Проблема состоит не только в этом. Общество видит ИИ в качестве эдакого абсолютного чуда технологии, могущественного и дорогого.

Следует помнить, что ИИ — это не каноничные образы в виде красной лампочки HAL9000 или злобного «Скайнета». Искусственный интеллект не обладает сознанием. Это всего лишь компьютерная программа, «умная» настолько, чтобы выполнять задачи, которые обычно требуют участия анализа человека. Это не хладнокровная машина для убийства.

В отличие от человека, ИИ — не живое существо, пусть даже программа может выполнять задачи, обычно решаемые людьми. В них не заложены чувства, желания и стремления кроме тех, которые заложим в них мы, или которые они смогут сформировать сами на основе входных данных.

Подобно человеку искусственный интеллект может ставить для себя задачи, но их природа закладывается в причинах его создания. Роль «умной» программы определяют только создатели, и вряд ли кто-то начнёт писать код для подчинения человечества или реализовывать самосознание.

Только в научной фантастике искусственный интеллект хочет размножаться и реплицироваться. Пусть и можно создать программу с целями навредить, но проблема ли это самого ИИ?

Наконец, компьютерный интеллект — это не целая сущность, а общность специализированных программ. Смит указывает, что в ближайшее время наиболее вероятно создание ИИ в качестве сети подпрограмм, которые обеспечивают компьютерное зрение, языковое общение, машинное обучение, движение и так далее. Программа искусственного интеллекта — это не «он», «она» или «оно», это «они».

Мы находимся в десятилетиях от той сингулярности, которой так боится Илон Маск. Сегодня IBM, Google, Apple и другие компании разрабатывают новое поколение приложений, которые способны лишь частично заменять человеческий элемент во многих однотипных, времязатратных и опасных работах. Нам не нужно развивать чувство страха в отношении этих программ, они лишь улучшают нашу жизнь. Единственное, что опасно — это люди, которые создают искусственный интеллект.