Искусственный интеллект, способный воспроизводить и совершенствовать себя

Натолкнулся на интереснейшую статью

https://futurism.com/google-artificial-intelligence-built-ai/

Аккуратного литературного перевода не делал (нужно время), воспользовался помощью гугль-переводчика. Но перевод я отредактировал, сверяясь с оригиналом, и за соответствие по смыслу ручаюсь.

=================================================

В мае 2017 года исследователи из Google Brain объявили о создании AutoML, искусственного интеллекта (ИИ), способного генерировать собственный ИИ. Они представили AutoML, способный решать самую сложную проблему на сегодняшний день, и ИИ создал «ребенка», который превзошел по параметрам разработки своих "родителей" (людей).

Исследователи автоматизировали разработку моделей машинного самообучения, которая действует как нейронная сеть контроллера, разрабатывающая дочернюю сеть ИИ для конкретной задачи. Для этого конкретного ИИ, который исследователи назвали NASNet, задача заключалась в распознавании объектов - людей, автомобилей, светофоров, сумок, рюкзаков и т.д. - в видео в режиме реального времени.

AutoML в состоянии оценивать производительность NASNet и использовать эту информацию для улучшения своего дочернего ИИ, повторяя процесс тысячи раз. При тестировании на основе классификации изображений ImageNet и наборов данных обнаружения объектов COCO, которые исследователи Google называют «двумя наиболее авторитетными крупными академическими наборами данных в компьютерном видении», NASNet превзошла все другие системы компьютерного зрения.

По мнению исследователей, NASNet на 82,7 процента точнее прогнозирует изображения в тестовых программах ImageNet. Это на 1,2% лучше, чем в ранее опубликованных рекордных результатах, а система также на 4% эффективнее, с 43,1% средней средней точностью (mAP). Будучи менее требовательной к вычислительной мощности компьютера, NASNet опередила лучшие модели аналогичного размера для мобильных платформ на 3,1 процента.

Взгляд в будущее

Машинное обучение - это то, что дает ИИ способность выполнять определенные задачи. Концепция, на которой это основано, довольно проста - алгоритм учится, потребляя "тонны" данных - но для этого требуется огромное количество времени и усилий. Если же ИИ берёт на себя основную тяжесть этой работы, автоматизируя процесс создания нового ИИ, идеально адаптированного к задаче, это, в конечном итоге, означает, что AutoML открывает область машинного обучения ИИ для неспециалистов.

Что касается специфики самой NASNet, то точные и эффективные алгоритмы компьютерного зрения имеют огромные перспективы благодаря количеству потенциальных приложений. Они могут быть использованы как для создания сложных роботов, работающих на ИИ, так и для того, чтобы помочь людям со слабым зрением, как предложил один исследователь. Они также перспективны в разработках автопилотов для авто. Чем быстрее автономный автомобиль может распознавать объекты на своем пути, тем быстрее он может реагировать на них, повышая тем самым безопасность таких транспортных средств.


«Мы надеемся, что сообщество ориентированное на машинное обучение, сможет использовать эти модели для решения множества проблем компьютерного зрения, в том числе и те, о которых мы пока ещё и представления не имеем», - отмечают исследователи.

Хотя поле для приложения NASNet и AutoML имеется в изобилии, создание ИИ, способного создавать ИИ, вызывает определенные проблемы. Например, что мешает "родителю" передавать нежелательные склонности своему "ребенку"? Что делать, если AutoML будет генерировать ИИ системы так быстро, что люди не смогут его сдерживать? Несложно видеть, что системы подобные NASNet найдут применение в автоматизированных системах наблюдения уже в самом ближайшем будущем, и, скорее всего, раньше, чем можно было бы разработать правила для контроля над такими системами.

К счастью, мировые лидеры работают достаточно быстро, чтобы гарантировать, что такие системы не приведут к какому-то деструктивному будущему. (?! - М.Б.)

Amazon, Facebook, Apple и некоторые другие корпорации являются членами "Партнерства по ИИ для людей и общества", организации, ориентированной на ответственное развитие ИИ. Институт Инженеров по Электротехнике и Электронике (IEE) предложил этические стандарты для ИИ, а DeepMind, исследовательская компания, принадлежащая материнской компании Google Alphabet, недавно объявила о создании группы, ориентированной на моральные и этические последствия создания ИИ.
Различные правительства также работают над правилами, запрещающими использование ИИ в опасных целях, таких как автономное оружие, и пока люди сохраняют контроль над общим направлением развития ИИ, выгоды от наличия ИИ, способного строить ИИ, должны намного превышать любые потенциальные ловушки.

==================================================

Моё послесловие:
Такое впечатление, что авторы статьи сами себя успокаивают. Особенно позабавил пассаж про "мировых лидеров, работающих быстро, чтобы гарантировать" отсутствие катастрофы... А также о том, что "Различные правительства также работают над правилами, запрещающими использование ИИ в опасных целях, таких как автономное оружие...". Куда важнее сейчас осознать, сколько правительств работают в прямо обратном направлении. И задуматься над способами взятия их под контроль. Чтобы Земля не превратилась в планету Плюк уже на наших глазах.
Кстати, об этических правилах для ИИ. Каждый, наверное, помнит из далёкого детства о так называемых "трёх законах роботехники", сформулированных великим мечтателем и пророком Айзеком Азимовым. Проблема, однако, в том, что не существует сейчас способа не то что формализовать эти правила как логически непротиворечивую догму, оперирующую с конечным объёмом информации (это единственный способ сделать её исполняемой), но даже на человеческом языке сформулировать её как этическую норму, безоговорочно принимаемую всеми. Просто потому, что даже среди людей не существует сейчас общепринятой этической нормы о взаимном "ненанесении вреда человеку".