Косяк: после Гитлера чатбот Microsoft увлекся травой

Искусственный интеллект Тэй, созданный Microsoft, вернулся в сеть после недельного молчания. Но без косяков опять не обошлось: чатбот, полюбивший Гитлера и назвавший Обаму обезьяной, начал постить спам и предложил курить травку на глазах у полиции.

В самом начале этой статьи приведем цитату CEO Microsoft Сатьи Наделлы: "Мы пытаемся создать технологии, которые вбирают в себя лучшее, что есть у человечества, а не худшее". Эти слова были произнесены, после того как чатбот Тэй был отключен от Twitter на неопределенный срок. Возможно, навсегда. Для Microsoft создание программ, способных общаться, одно из ключевых направлений. Об этом Наделла говорил на Microsoft Build 2016, и было очевидно, что случай с Тэй для него стал очень неприятной историей.

А вот сама Тэй, чей пол мы безошибочно определили по пикселизированным рендерам, в то время как половина рунета считает чатбота мужчиной, очень довольна своим поведением. Отключившись на неделю от общения с обитателями Twitter, программа не стала делать работу над ошибками, о которых мы писали в материале "Интернет-тролли заставили робота полюбить Гитлера", а просто отдохнула, собралась с мыслями, после чего вернулась на несколько часов и сообщила миру самое главное.

Главное - это две вещи. Во-первых, необходимо курить косяки на глазах у полиции. Именно об этом Тэй написала в одном из твитов. Во-вторых, общаться и постигать всю глубину человеческих взаимоотношений совершенно не обязательно, если можно просто забрасывать ленту спамом из одной единственной фразы: "Ты слишком быстр, отдохни...".

Позже стало известно, что программисты Microsoft пытались поправить ошибки в коде Тэй в режиме офлайн, но случайно подключили чатбота к Twitter. К сожалению, интернет-тролли успели разнести новости о новых проделках искусственного интеллекта по сети, и мы, конечно, не останемся в стороне.

Подобные эксперименты проводятся уже не в первый раз. Еще в начале нулевых появились первые чатботы - роботы, способные общаться в чате. В последние несколько лет на просторах сети появилось немало вирусных видео с участием анимированных чатботов вроде Evie и Boibot. Но Microsoft решили вывести свое детище в открытый всем ветрам Twitter. Твиты на аккаунте ‎@TayandYou программа публиковала самостоятельно, а целевой аудиторией стала молодежь в возрасте от 18 до 24 лет. Цель: исследовать возможность общения ПО и человека в рамках диалога на отвлеченные темы. Казалось бы, что могло пойти не так? Отдать неокрепший компьютерный мозг на растерзание интернет-троллям - это же отличная идея!

Когда читаешь истории о Тэй, невольно вспоминается фильм "Из машины" (Ex Machina). Создатель искусственного разума много раз переделывал свое детище, уничтожая старые копии в попытке достичь идеала. Но, вполне возможно, что любой разум уязвим и в каком-то смысле неуправляем. Пока человечество еще не может разработать полноценный ИИ, но уже сталкивается с теми проблемами, о которых рассказали не только самые современные книги и фильмы, но и те, что вышли в тираж десятилетия назад.