Ученые научили ИИ вести внутренний монолог

Включение системам искусственного интеллекта (ИИ) "внутреннего монолога" значительно улучшает их когнитивные способности, показывают новые исследования.

Метод обучает системы ИИ думать, прежде чем реагировать. Точно так, как люди обдумывают что сказать, прежде чем что-то произнести. Этот подход отличается от способа, которым ученые ранее обучали чат-ботов с ИИ, таких как ChatGPT, которые не "думают" о том, что они пишут.

Новый метод, получивший название "Quiet-STaR", предписывает системе ИИ генерировать множество внутренних обоснований параллельно, прежде чем реагировать на диалоговую фразу. Далее ИИ учится отбрасывать обоснования, которые оказались неверными. По сути, метод обучения дает агентам ИИ возможность предвидеть будущие разговоры и извлекать уроки из текущих.

Исследователи применили алгоритм Quiet-STaR к Mistral 7B, модели большого языка с открытым исходным кодом (LLM), и опубликовали результаты 14 марта в базе данных предварительной печати arXiv (статья еще не прошла рецензирование).

Версия Mistral 7B, оснащенная Quiet-STaR, набрала 47,2% баллов в тесте на рассуждения по сравнению с 36,3% обучения другим методом. 

Такие модели, как ChatGPT и Gemini, построены на основе нейронных сетей — наборов алгоритмов машинного обучения, организованных таким образом, что имитируют структуру и паттерны обучения человеческого мозга. Однако системы, построенные с использованием этой архитектуры, плохо поддаются логическому обоснованию или контекстуализации, а чат-боты с ИИ не обладают подлинным "пониманием".

Прошлые попытки улучшить логические способности LLM были в значительной степени специфичны для предметной области и не могли быть применены к различным типам моделей ИИ.