Улучшение нейросетей: как искусственные алгоритмы учатся проверять свои результаты

На модерации Отложенный


Искусственные нейронные сети в настоящее время нередко допускают неточности в своей работе, поэтому разработчики стремятся улучшить алгоритмы, чтобы системы могли самостоятельно проверять свои результаты. Об этом в беседе с НСН рассказал Александр Жадан, руководитель проекта по интеграции нейросетей в TenChat.

По его словам, работа генеративных алгоритмов основана на поиске наиболее вероятного ответа, но это не всегда гарантирует его точность.

В качестве примера он привёл ситуацию, когда нейросети ошибаются при подсчёте букв в словах, поскольку изначально не обладают навыками счёта.

Эксперт отметил, что именно поэтому сегодня активно работают над тем, чтобы нейросети не только выдавали ответы, но и анализировали их, выявляя возможные ошибки и исправляя их в процессе генерации.

Жадан подчеркнул, что распространение ложной информации связано не только с технологиями, но и с человеческим фактором.