Проблемы искусственных нейросетей (что у нас называют ИИ)

Конечно, этот повальный новый тренд, который пришёл вслед за NANO - из-за того, что у руля страны и крупных компаний стоят некомпетентные граждане.

Опять мы получим пшик на выходе, хотя если не разогревать искусственно тему - то потихоньку можно получить отличный результат. Но сначала некомпетентные руководители, следуя моде, наберут штаты из некомпетентных студентов, потеряют миллиарды, разочаруются и спустя десяток лет - некоторые успехи начнут выстреливать.Но в госструктурах уже будут открещиваться от этого матаппарата.

Объясню как должно быть и откуда что растёт.

Даже Греф открыл не так давно тайну, что благодаря применению искусственных нейросетей (которые там называют ИИ) - Сбер получил миллиардные убытки.

Проблема в том, что до сих пор обучение и использование искусственных нейросетей это не наука, а искусство.

Неизвестно сколько и каких входных параметров необходимо использовать в процессе обучения. Также, неизвестно каковы параметры самой искусственной нейросети (какие весовые функции использовать, сколько слоёв использовать, сколько нейронов в каждом слое и т.д.).

Всё это пока не научно и нечётко - отсюда недоверие со стороны потенциальных заказчиков и отсутствие чётких законодательных и производственных описаний применения.

Никто в здравом уме не переложит на обученную неизвестно как ИНС принятие решений. Ну, разве что Греф.

Также, необходимо знать, что искусственные нейросети могут использоваться для решения трёх различных задач:

1) Аппроксимация/интерполяция/экстраполяция многопараметрической функции

2) Классификация - как раз этот вариант используется для распознавания образов

3) Кластеризация - в качестве примера можно предложить задачу на вычисление стоимости городской квартиры в разных районах в зависимости от этажа, удалённости от детского садика, школы, метро и прочее.

 

Искусственная нейросеть имеет один очень большой плюс по сравнению с дифференциальными уравнениями - она позволяет оперировать сколько угодно большим количеством как входных, так и выходных параметров.

Это в любом из трёх вариантов функция f(вектор Xn) = вектор Ym, где n и m - любые целые значения, начиная от 1.

Чем больше будет примеров - тем меньше будет ошибок для новых векторов в уже работающей системе.

Звучит прекрасно!

Но факт в том (и на это напоролись в Сбере), что никто точно не знает заранее сколько параметров надо использовать на входе, никто не знает параметров искусственной нейросети и сколько необходимо примеров для обучения.

Это и привносит сегодня элемент неожиданности, что способно привести к убыткам бизнеса в размерах десятков процентов от оборота компании.

 

Начинать надо с простых задач и всегда контролировать выдаваемые обученной искусственной нейросетью цифры (выходные параметры).

То есть, сегодня искусственная нейросеть в сложных системах должна быть только в качестве помощника, но никак не истиной в последней инстанции.

К примеру, в банке сделают автоматическую выдачу кредита, с обучением по накопленной базе, начиная с 2015 года. Что произойдёт?

Мы знаем, что с 2015 года рубль был сравнительно стабильный кросс курс. А это значит, что этот параметр при обучении не будет учитываться нейросетью. И если в перспективе кросс курс резко начнёт меняться, то как это повлияет на алгоритм принятия решения о выдаче кредита - неизвестно. Обученная нейросеть может как вообще не отреагировать на динамику кросс курса, так и может начать выдавать кредиты налево-направо.

И таких параметров, которые были не важны на этапе обучения, но вдруг стали важными впоследствии - может быть неизвестно как много.

 

В-общем, наше и другие государства опять втянулись в очередную модную затею, в которой ничего не понимают.

Разберитесь сначала.

Попросите РАН вынести свой вердикт о степени проработанности вопроса, а только потом доверяйте принятие решений многопараметрическим алгоритмам.

Установите некоторые диапазоны и правила для обучающихся Систем с искусственными нейросетями.

К примеру, если количество параметров меньше 4х - то такие-то параметры нейросетки. От 4 до 10 - такие-то и так далее.

В идеале, вообще надо сертифицировать все эти алгоритмы и выложить их в открытый доступ.

Не в качестве рекламы, но мне нравится удобство пакета Alglib - простой и удобный пакет и есть бесплатный вариант.

Использовал его для распознавания ЭКГ - получалось неплохо.

 

автор : Fanatic