Восстание машин. Как искусственный интеллект родил цифрового ребенка

Ученые начинают говорить о том, что перестали понимать принципы работы ИИ

NASNet - так назвали "ребенка", недавно рожденного искусственным интеллектом AutoML. Программа, созданная Google Brain, способна разрабатывать собственные ИИ. Причем NASNet получился умнее, чем аналоги, созданные людьми. Он способен обучаться, отчитываясь перед "родителем", который совершенствует алгоритмы "малыша", исходя из полученных данных. 

В мае этого года команда Google Brain объявила о запуске проекта AutoML (Auto Machine Learning), целью которого было создание интеллекта, который, в свою очередь, сможет создать собственный ИИ. Ученые из Google использовали в своей работе метод под названием "усиленное обучение", применив его к нейронным сетям. "Отеческая" программа является главным контроллером нейронной сети, которая строит модель нейронной сети "ребенка". Каждый такой ребенок может быть предназначен для определенной цели и "получает" от родителя оригинальную модель своей собственной сети "Когда у "ребенка" уже есть определенные базовые знания или навыки, они тестируются, оцениваются и передаются "родителям", задача которых - найти способ их улучшить. Когда возникает лучшая версия структуры нейронной сети, она возвращается к "ребенку". Снова тестируется, оценивается и отправляется для улучшения "родителем", - рассказывают эксперты Google Brain. Весь процесс повторяется тысячи раз.

"Малыша" NASNet научили распознавать различные объекты: людей, предметы (сумочки, рюкзаки, а также автомобили) или цвета дорожного освещения. Речь идет не о простом распознавании объектов на фотографиях - NASNet в режиме реального времени идентифицирует движущиеся объекты на видеороликах.

Ученые использовали две системы, которые считаются лучшими для подобного рода исследований - систему классификации изображений ImageNet и базу данных COCO.

В случае с ImageNet уровень распознавания объектов "малышом" NASNet составил 82,7%, это на 1,2% лучше, чем показатели всех предыдущих проектов. В случае с базой данных COCO эффективность составила 43,1%, на 4% лучше, чем у предшественников.

Исследователи создали и немного упрощенную версию NASNet, предназначенную для мобильных устройств. По сравнению с аналогичными системами проект Google в деле обнаружения и распознавания объектов оказался на 3% эффективнее.

С чисто научной точки зрения инженеры из Google Brain достигли огромного успеха. Диапазон использования умений NASNet огромен. Так. Уже есть идеи по использованию ИИ для помощи слабовидящим или даже совершенно слепым. Кроме того, цифровой "малыш" может помочь совершить прорыв в создании автомобилей с автопилотами, поскольку позволит с высокой точностью распознавать объекты на пути.

Разработчики NASNet также заявляют, что готовы поделиться информацией о проекте с другими учеными, чтобы объединить усилия и придумать новых "деток" для AutoML.

Впрочем, не все разделяют радость разработчиков.

Так, отдельные эксперты подчеркивают, что NASNet вполне может использоваться для создания автоматической системы наблюдения за людьми. К тому же, ученые пока не могут гарантировать, что "дети" не перещеголяют своих цифровых "родителей". Плюс к этому, машины не знакомы с понятиями морали, и кто знает, чему в итоге научится цифровой детсад.

В Google уверяют, что никакого вреда их программы не принесут - вместе с Amazon, Facebook и Apple они являются членами инициативы "Партнерство по ИИ в интересах людей и общества". Его цель - убедиться, что работа над ИИ служит исключительно благу человечества. Однако далеко не все специалисты считают, что инженеры смогут контролировать свои творения.

Летом основатель компании Tesla Motors Илон Маск заявил, что искусственный интеллект опаснее КНДР. "В конце концов машины победят", - написано на плакате, фото которого Маск выложил в Twitter. Не в восторге от перспектив развития ИИ и Стивен Хокинг: от считает, что неизбежный конец света наступит из-за ядерной войны, генетически созданного вируса или искусственного интеллекта. В Facebook даже остановили эксперимент с искусственным интеллектом после изобретения собственного языка чат-ботами - хотя их диалог выглядел набором слов, инженеры сочли, что искусственный интеллект динамически генерировал собственный язык и даже научился понимать разговоры.

Защитники ИИ утверждают: все зависит от того, кто этот самый интеллект разрабатывает. Так, Марк Цугерберг заявил: "Каждый раз, когда я слышу о том, что искусственный интеллект нанесет вред человечеству в будущем, я думаю: да, технологии всегда могут быть использованы как для хорошего, так и для плохого. Нужно быть осторожным относительно того, что именно ты создаешь, как ты это создаешь, и как оно будет использоваться". Генеральный исполнительный директор Microsoft Сатья Наделла уверен, что искусственный интеллект может создать больше рабочих мест, чем ликвидировать. "Сейчас разработка искусственного интеллекта направлена на помощь людям и улучшения их возможностей. Даже в самообучающихся системах многие решения зависят от разработчиков. Мы должны убедиться, что на этом этапе в систему не попадут предвзятые или плохие данные", - заявил Наделла. 

Правда, как именно можно воспрепятствовать развитию ИИ с "плохими данными", его защитники не говорят - уповают на порядочность разработчиков. Между тем давно не секрет, что повышенный интерес к ИИ питают, к примеру, военные.

Между тем, тревожные звоночки уже появились. На конференции по проблемам искусственного интеллекта Neural Information Processing Systems, недавно прошедшей в Лонг-Бич (Калифорния), сразу несколько специалистов заявили, что они перестали понимать, как работает ИИ - оказывается, он склонен принимать предвзятые решения и искать ненужные аналогии.

Специалисты по искусственному интеллекту прогнозируют слияние людей и машин в течение 20 лет. Инвестиции венчурных капиталов в разработку технологии ИИ за первые 9 месяцев 2017 года составили $7,6 млрд. В своих отчетах о доходах государственные компании вспоминают AI чаще, чем big data.

Обернется ли это восстанием машин - вопрос пока открытый.