SPAUN

Модель мозга SPAUN: связывая сложную архитектуру со сложным поведением
SPAUN
 

Модель SPAUN (Semantic Pointer Architecture Unified Network) состоит из 2,5 миллионов нейронов, которые организованы в подсистемы, отражающие несколько регионов реального мозга (префронтальная кора, базальные ганглии, таламус, зрительная кора и другие). Для специалиста в данной области (да и просто для интересующихся людей) подобное начало уже давно не является обескураживающим. Однако прежде чем попытаться понять, в чем же заключается существенный прорыв представленной работы, необходимо осветить, как развивалась область крупномасштабного моделирования мозговой активности в последние годы.

C начала нового тысячелетия в новостной ленте все чаще появляются сообщения: "Ученым удалось смоделировать мозг, состоящий из N тысяч/миллионов/миллиардов нейронов". Исследования, скрывающиеся за этими новостями, заключаются, по сути, в разработке новых моделей нейронов и синапсов ("контактов" между нейронами) и объединение их в некоторую связную сеть. Основной сложностью (не рассматривая теоретические трудности) является необходимость солидных вычислительных ресурсов для проведения подобных симуляций. Первым громким прорывом в этой области был проект Blue Brain, в рамках которого в конце 2006 года удалось смоделировать одну колонку неокортекса молодой крысы, состоящую из 10 000 биологически правдоподобных моделей нейронов с приблизительно 3х107 синапсами. Позже в 2011 году та же обширная группа исследователей сообщила о разработке модели, состоящей из 100 неокортикальных колонок (примерно миллион нейронов). На данный момент продолжение проекта под названием Human Brain Project является кандидатом (пожалуй, наиболее вероятным) на получение Future and Emerging Technologies Grant, который составляет 1 миллиард евро и предоставляется европейской комиссией.

Коммерческие компании также активно финансируют исследования в данной области, так как они могут помочь выработать принципы для совершенно новых вычислительных архитектур. В рамках совместного проекта IBM и DARPA (агентство по перспективным оборонным научно-исследовательским разработкам США) под названием C2S2 к 2009 году было проведено моделирование 1 миллиарда нейронов со значительно более простыми моделями, нежели в проекте Blue Brain, и 10-ти триллионов обучающихся синапсов. Дальнейшее развитие проекта нацелено на создание новых материалов и полупроводниковых архитектур для нейрочипов, которые позволят моделировать подобные сети.

Наибольшую по масштабу симуляцию удалось провести в лаборатории нобелевского лауреата Джеральда Эдельмана в 2008 г. - 100 млрд сравнительно простых нейронов (мозг человека, по последним оценкам, состоит из 86 миллиардов нейронов).

Наибольшую по масштабу симуляцию удалось провести в лаборатории нобелевского лауреата Джеральда Эдельмана в 2008 году - 100 миллиардов сравнительно простых нейронов (для сравнения - мозг человека, по последним оценкам, в среднем состоит из 86 миллиардов нейронов).

"Технические" характеристики SPAUN на первый взгляд не выглядят выдающимися на фоне описанных выше достижений последних лет. Так в чем же уникальность предложенной модели? Ответ заключается в том, что канадские исследователи решили исследовать поведение, которое может продуцировать подобный мозг. По мнению самих авторов, ключевая проблема современной теоретической нейронауки состоит в "необходимости связать невероятно сложное поведение животных с такой же сложной активностью их мозга". Подавляющее большинство исследований рассматривают "мозг в вакууме", оторванный от какой-либо среды существования, поэтому вопрос об оценке адекватности разработанных моделей является крайне узким местом.

SPAUN, напротив, обладает виртуальным глазом, который способен воспринимать изображения размером до 28x28 пикселей, и рукой, предназначенной для написания цифр. С помощью данных устройств модель способна проходить различные тесты, среди которых распознавание цифр, обучение с подкреплением (усложненный аналог экспериментов Павлова), простое сложение цифр, запоминание последовательностей с помощью кратковременной памяти, а также задачу на гибкое мышление - упрощенныйтест Равена. Решение последнего до сих пор удавалось только человеку. Безусловно, наиболее впечатляющим выглядит прохождение последнего задания - в текущей версии исследователи показывают последовательности цифр, например (1,2,3) и (5,6,7), а SPAUN должен самостоятельно вывести закономерность в представленных рядах и продолжить неполную последовательность.

Один из крупнейших мировых специалистов в области изучения нейрональной динамики Евгений Ижикевич описал суть достижений авторов: "До сегодняшнего момента гонка лабораторий заключалась в том, кто сможет провести моделирование в масштабах человеческого мозга, не задумываясь о том, какое поведение и функции этот мозг может обеспечивать. Теперь все будут пытаться воссоздать биологические функции и поведение, похожее на животных. На данный момент Spaun является победителем".

"Теперь все будут пытаться воссоздать биологические функции и поведение, похожее на животных.
На данный момент Spaun является победителем"

Для того чтобы модель могла успешно справляться с таким спектром задач, было необходимо разработать нейрональную реализацию механизма выбора действия и трех основных систем: зрительной для обработки поступающих сигналов (условий задач), моторной для поведенческого ответа и системы рабочей памяти для хранения общей задачи, подзадач и контекста. Большинство компонент системы построены на принципе так называемых "семантических указателей", обширное теоретическое и прикладное описание которых будет в готовящейся к изданию книге Элиасмита "Как построить мозг: нейрональная архитектура для биологических познавательных способностей".

По определению, семантические указатели - это построенное на нейронах отображение некоторого векторного пространства, которое сгенерировано с помощью сжатия. Фактически же идеология семантических указателей позволяет кодировать в активностях (частоте сигнала) группы клеток высокоразмерную информацию. Рассматриваемая информация может быть получена извне организма (сенсорика) или от другой группы клеток, и в таком случае она в свою очередь тоже является семантическим указателем.

Таким образом, мы последовательно уменьшаем число нейронов, необходимое для отображения в модели той или иной информации. Более того, в процессе перехода от одной группы клеток к другой мы можем не только снижать размер необходимых ресурсов, но и реализовывать произвольную функцию на основе конкретной информации, то есть осуществлять нужные нам манипуляции и преобразования.

Похожая идеология, хоть и значительно более упрощенная, лежала в основании теории искусственных нейронных сетей, которая активно развивалась с 50-х годов прошлого века. Основное достижение Элиасмита заключается в том, что к 2003 году он разработал метод, который позволяет определить параметры групп нейронов (архитектуру внутри- и межгрупповых связей) по необходимой функции. Архитектура SPAUN построена на описанных выше принципах последовательного преобразования и хранения информации. Авторы приводят в статье результаты экспериментов, исходя из которых можно сделать вывод о том, что характер активности нейронов в модели достаточно хорошо соответствует имеющимся данным по различным животным.   

Множество западных и российских СМИ за последние несколько дней уже успели на все лады вознести результаты, полученные канадскими учеными. Однако, несмотря на то, что данная работа является знаковой для области крупномасштабного моделирования мозга (по крайней мере, за последние несколько лет), она имеет также и ряд узких мест.

Авторы крайне немного времени посвящают проблематике обучения в SPAUN. Между тем, эффективные механизмы самообучения, которые присущи любым животным, до сих остаются краеугольным камнем нейронаук. Вся структура связей в модели SPAUN генерируется с помощью разработанного Элиасмитом инструментария, но возможно ли обучить систему "с нуля" выполнять такие же задачи? Ссылаясь на свою статью 2011 года, авторы утверждают, что каждый отдельный компонент (преобразующая информацию функция) может быть выучен с помощью специального биологически реалистичного правила синаптической пластичности. Тем не менее, и они признают невозможность на данный момент обучить такую сложную систему целиком в процессе непрерывного взаимодействия со средой, тем более - без изначального задания для групп нейронов множества необходимых преобразований. В целом обучение (с точки зрения синаптической пластичности) в SPAUN происходит только в одной из восьми задач, рассмотренных авторами. Решение остальных тестов происходит за счет сложности динамики такой большой изначально заданной системы.

Авторы крайне немного времени посвящают проблематике обучения в SPAUN. Между тем, эффективные механизмы самообучения, которые присущи любым животным, до сих остаются краеугольным камнем нейронаук.

Мозг животных развивался в эволюции, чтобы реализовывать поведение, которое является успешным - или, по-научному, дающим адаптивный результат в среде обитания. Решение большинства задач, рассмотренных в статье, изначально не несло бы никакой адаптивности реальному организму. Насколько целесообразно проводить биологически реалистичное моделирование мозга, оставляя за скобками один из главнейших факторов, который канализирует развитие поведения животных? Данный вопрос, безусловно, остается открытым - SPAUN фактически выполняет поставленные задания не из-за того, что они исключительно важны для его выживания, а потому что модель так "запрограммирована" человеком (хотя прямого программирования и не производилось).

Статья канадской группы стала большим событием не только для научного сообщества. Однако самым важным последствием, возможно, будет вовсе не привлечение дополнительного внимания к области теоретической нейронауки, а смена направления исследований множества групп по всему миру. Вполне вероятно, что теперь проводить симуляции все большего количества нейронов будет уже недостаточно, и мы увидим, как крупномасштабные модели начнут обладать настоящим интеллектом.