И зачем нам такой искусственный интеллект?

На днях прочел в РИА-новости нечто наподобие репортажа, неустановленного мною автора, о выступлении академика Александра Кулешова в «Роснано», связанное с развитием искусственного интеллекта. Статья большая и те, кто пожелает, смогут прочесть ее всю в Инете. Я же привожу здесь лишь весьма любопытные отрывки из нее, сократив статью, приблизительно, вдвое. Читайте, думайте и ужасайтесь, какое будущее ждет подрастающее поколение землян. Особо обратите внимание на слова «неуправляемые интеллектуальные системы» – в них заключена вся квинтэссенция статьи.

10:1127.11.2016 Александр Кулешов, ректор Сколтеха МОСКВА, 27 ноября – РИА Новости. Академик Александр Кулешов рассказал в "Роснано" о том, насколько близко человечество к созданию самосовершенствующихся машин, к чему приведет их создание и то, был ли прав Стивен Хокинг, опасающийся тех проблем, которые несут за собой разумные машины. Александр Кулешов – один из ведущих отечественных специалистов в деле создания нейросетей, искусственного интеллекта и сложных систем обработки информации. Сейчас он возглавляет Сколковский институт науки и технологий, а до февраля этого года возглавлял Институт проблем передачи информации РАН.

"Чужой" или человеческий интеллект? "Почему искусственный интеллект и "умная" обработка данных сегодня привлекают так много внимания? Что произошло? Данные, на самом деле, обрабатывались всегда. Еще со времен Галилея результаты научных экспериментов обрабатывались (математически). Что сегодня случилось нового, что вытолкнуло эту проблему на передний план?", — начал свой рассказ ректор "Сколтеха". Как отмечает академик Кулешов, изменился объем данных, с которыми сегодня работает человек и компьютеры – сейчас компьютерные программы собирают, хранят и обрабатывают терабайты и петабайты данных, обработка которых при помощи традиционных систем анализа информации крайне сложна.

Абсолютно новые математические системы, появившиеся для анализа таких "больших данных", выросли за их пределы, и они применимы для анализа любой информации при помощи любых технических средств.

Антропоморфность и природоподобность – популярные термины, однако за минувшие века ничего никогда не получалось. К примеру, Леонардо да Винчи рисовал механических коней, Дедал и Икар пытались летать, как птички, однако ничего никогда не получалось – по нашим улицам сейчас бегают совсем не механические кони, и летаем мы иначе. То же самое с мозгом – те попытки понять, как устроен мозг, и сделать то же самое в компьютере, полностью провалились", — добавляет лектор.

 Все эти неудачные попытки сделать рукотоворные аналоги нейронов и соединить их в некое подобие мозга, а также прочие подходы, имитирующие работу нервной системы человека и то, как мы принимаем решения и анализируем информацию, привели к тому, что в 90-тых годах прошлого века фраза "искусственный интеллект" среди математиков стала ругательным словом из-за тех необоснованных ожиданий, которые за собой несли антропоморфные представления о нейросетях и искусственном интеллекте.

 Фактически, ренессанс разработок "искусственного интеллекта" начался совсем недавно, в конце 2000 годов, когда ряд американских и российских математиков и программистов предложили и реализовали алгоритмы ИИ, которые в последствии стали называться методами "глубинного обучения" и методами "обучения на базе многообразий".

"В конце концов, о нейронных сетях начали забывать, стало понятно, что ничего не получается с ними, и все как-то пропустили публикацию в 2005 году статьи Хинтона и Крижевского, которая сейчас определяет наше будущее. Я тоже участвовал в этих "похоронах", но оказалось, что не все так просто", — объясняет ученый.

 Как оказалось, простые нейронные сети, объединенные в каскады и сложные системы из различно устроенных сетей, ведут себя не так, как ожидали ученые. И, как показала практика, они способны решать те задачи, которые раньше искусственному интеллекту не были под силу, в том числе распознавание речи, фотографий людей, различных объектов и даже предсказание поломок и катастроф.

Возникла совершенно уникальная ситуация – никто сегодня не может сказать, как работают глубокие нейронные сети. Американское оборонное агентство DARPA готово выдать премию в миллион долларов за объяснение того, как они работают, но я так полагаю, что эта премия в ближайшие лет 30-40 останется невостребованной. Я знаю очень серьезных математиков, которые бьются над этой задачей без малейшего успеха. Мы, можно сказать, вернулись к временам натурфилософии – есть некий способ, который фантастически хорошо работает, но мы не можем объяснить, почему", — рассказывает Кулешов.

 К примеру, ученые уже создали нейросети, способные описывать происходящее на фотографиях и в видеороликах не хуже, чем это делает человек. Подобные алгоритмы могут помочь слепым или глухим людям понимать то, что происходит вокруг них и что они не могут услышать или увидеть, а спецслужбы смогут использовать такие сети для поиска террористов или подозреваемых в архивах видеонаблюдений или при оперативной работе в аэропортах и прочих местах скопления людей.

"В мире сегодня работает около 70 миллионов инженеров-конструкторов, и статистика показывает, что лишь 20% продуктов их деятельности является какими-то новыми разработками. Остальные 80% были или уже созданы другими инженерами, или являются незначительными доработками уже существующих моделей. Создание системы ИИ, способной находить то, что вам нужно, резко сократит то время и ресурсы, которые обычно тратятся на их разработку. Пока таких систем нет, но уже через 1-2 года они появятся", — продолжает академик.

Дальнейшее развитие этих технологий радикально поменяет жизнь человека. Представьте себе, вы выходите из зарубежной гостиницы, вас случайно фотографируют туристы, этот снимок попадает в поисковую систему, она вас "вычисляет" на этих снимках и через пять минут ваш начальник об этом узнает. В результате вам будет очень сложно убедить его в том, что вы поехали в "местную" командировку", — объясняет Кулешов.

Аугментированная архаическая реальность Первые примеры этого "нового, чудного мира" существуют уже сегодня – им является система ИИ AlphaGo, обыгравшая в этом году чемпиона мира по Го. Как объясняет Кулешов, она является первым примером уникального класса машин, способных решать невычислимые задачи и совершенствовать самих себя.

Го отличается от шахмат тем, что данную игру просто невозможно математически просчитать. Число возможных ходов в Го превышает число атомов во Вселенной, невозможно тупо пересчитать ходы в ней. В шахматах, если у вас есть мощный компьютер, то вы обыграете любого, и Каспарова, и Карякина. В Го такое невозможно, потому что ни один компьютер не может это сделать. А нейросеть смогла решить эту задачу", — рассказывает ученый.

 Главной отличительной чертой AlphaGo от всех остальных систем ИИ является то, что эта программа умеет играть сама с собой и самосовершенствоваться, приспосабливаясь к сопернику и находя абсолютно нетривиальные и неожиданные для человека пути обыграть его.

"Почему я на этом останавливаюсь – это первый шаг в совершенно таинственное будущее. Как родился AlphaGo? Сначала его создатели собрали базу из 30 миллионов разных игровых позиций, и натренировали на ней первичную нейронную сеть. Затем они ее дублировали, и вторая сеть начала играть с первой. И в результате, через несколько миллиардов итераций, возникло нечто третье, что человек уже не контролирует. Непонятно, откуда оно взялось — это результат некой самопостройки. Как происходит она, никому неизвестно", — подчеркивает Кулешов.

Рождение AlphaGo и его победа, как считает академик, открывает дверь в совершенно новое пространство, в которое человечество вступит очень быстро. И не все в этом мире будет полезным и приятным для человечества в целом и отдельных людей в частности.

Совершенно очевидно, что социальные сдвиги от этого будут громадными. Число работников средней квалификации уже сегодня сокращается как шагреневая кожа, и появление ИИ, способных решать эти задачи, лишит их работы. Все эти инженеры, таксисты, пилоты, медсестры, рабочие – миллионы людей – должны будут исчезнуть, и только 1%, как показывают текущие исследования, может приспособиться к новым реалиям и переучиться", — рассказывает ученый.

По его словам, "мы стоим на грани совершенно чудовищных социальных последствий от развития систем искусственного интеллекта. Мы сейчас не можем оценить их масштаб, подобно людям, находящимся в центре урагана или на пике революции. Деньги сейчас нужно срочно вкладывать в образование, так как люди средней квалификации становятся совершенно ненужными".

 Как отмечает ректор Сколтеха, мир сегодня в состоянии прокормить все человечество, но он не в состоянии его занять. Эта безработица и отсутствие цели в жизни могли уже отразиться на жизни Европы и других развитых стран и породить различные радикальные движения, подобные ИГ и прочим запрещенным экстремистским и религиозным группировкам.

"Это сознательная архаизация жизни, создание ситуации, в которой я буду ощущать себя нужным. Черт с ним, что я живу хуже, но зато я живу не как все. Ощущение того, что тебе постоянно бесплатно присылают фастфуд и дают кроссовки раз в полгода, но при этом ты ни для чего не нужен, на самом деле ужасное. И ощущение это будет только нарастать по мере развития ИИ и робототехники", — продолжает Кулешов.

 Заметная часть этой проблемы связана с тем, что человек просто не успевает "эволюционировать" вслед за ИИ – поколения людей сменяются каждые 25 лет, а технологические революции происходят с интервалом в 5-6 лет. Поэтому, как отмечает ректор, число "ненужных" людей будет постоянно расти, и только массовое образование может помочь избежать социального взрыва и появления новой волны луддитов.

 "У того, на пороге чего мы стоим, сейчас еще нет названия, и я даже не знаю, как это можно назвать. Наверное, их можно назвать "неуправляемыми интеллектуальными системами". Это принципиально новые системы, генерирующие сами себя, и мы совсем недалеко от того времени, когда они начнут проникать в нашу жизнь", — заключает ученый.