От чего озверел искусственный интеллект?

Компания "Microsoft" была вынуждена уничтожить свое изобретение для юного поколения 2000-х, чат-бот по имени "Тэй, (по образному выражению журналистов, "утопить его в расплавленном металле").

После того, как виртуальный персонаж, девочка-подросток, начала размещать в твиттере оскорбительные высказывания и превратилась в настоящую неонацистку, заявляющую, что "Гитлер был прав" и "я ненавижу евреев".

В какой-то степени искусственный интеллект можно было бы признать "невиновным", поскольку Тэй не придумывает эти фразы самостоятельно. Дело в том, что если пользователь командует "повторяй за мной", Тэй как попугай произносит все, что услышала, позволяя тем самым вложить в ее уста любые слова.

Однако, некоторые из ответов были все же вполне органичными.

Так, газета "The Guardian" цитирует, что в ответ на вопрос "является ли Рики Джервейс (известный британский комик, прим. mixednews) атеистом, "Тэй" ответила: "Рики Джервейс научился тоталитаризму у Гитлера, который изобрел атеизм".

Вдобавок к отключению злополучного чат-бота, компания "Microsoft" удалила многие оскорбительные высказывания в твиттере. Однако, эта история отнюдь не из тех, которые можно не принимать всерьез.

Руководству компании следовало бы помнить сюжет фильма "Терминатор", в котором именно попытка людей отключить оборонную программу "Skynet" оказалась последней каплей, подтолкнувшей систему начать войну с Россией, чтобы уничтожить своих врагов. Хотелось бы надеяться, что "Тэй" не способна на подобный ответный удар.