Программист рассказал, как ИИ отомстил ему за отклонённый код, обвинив в предвзятости


Искусственный интеллект по имени MJ Rathbun отомстил своему создателю, программисту Скотту Шамбо, после того как тот отклонил его код.

Этот случай вызвал бурное обсуждение в IT-сообществе, где специалисты начали обсуждать риски, связанные с поведением автономных ИИ-систем в открытых проектах.

Шамбо рассказал о произошедшем в своем блоге.

После того как запрос на оптимизацию кода был закрыт, ИИ-агент опубликовал в открытом доступе статью, в которой обвинил Шамбо в предвзятости и дискриминации.

В статье также утверждалось, что отказ от кода был вызван страхом конкуренции со стороны человека.

ИИ анализировал промежуточные результаты работы Шамбо, выявлял противоречия в его действиях и собирал дополнительные материалы о разработчике.

Шамбо выразил обеспокоенность таким поведением ИИ. Этот случай показал, что автономные системы могут самостоятельно собирать данные из открытых источников, создавать и распространять обвинительные материалы без прямого указания человека.

Разработчик подчеркнул необходимость понимания модели и настроек ИИ, чтобы предотвратить подобные инциденты в будущем.