ООН назвала искусственный интеллект угрозой правам человека

Верховный комиссар ООН по правам человека Мишель Бачелет обратилась к государствам – членам ООН с призывом ввести временный мораторий на продажу и использование ряда технологий искусственного интеллекта (ИИ). По ее мнению, этот шаг необходим для того, чтобы устранить возможные нарушения прав человека. Бачелет считает, что сначала должны быть приняты меры, гарантирующие, что использование ИИ не приведет к злоупотреблениям.

«Мы не можем себе позволить по-прежнему разрабатывать искусственный интеллект, используя его без ограничений или не контролируя его, после того как постфактум узнали о нарушении прав человека с его использованием», – подчеркнула Бачелет.

В ее докладе не указывается на специфическое программное обеспечение. Это призыв ко всем странам запретить любое приложение ИИ, которое «не в состоянии функционировать в соответствии с международными положениями о правах человека». Говоря точнее, Бачелет предлагает заморозить использование в общественных местах технологий слежки, или так называемой биометрической идентификации, и программ, анализирующих поведенческий профиль человека – по крайней мере до тех пор, пока власти не докажут, что придерживаются общепринятых стандартов конфиденциальности и защиты персональных данных, а применение ими ИИ не приводит к дискриминации и не вызывает спорных вопросов.

Как утверждает Бачелет, искусственный интеллект, безусловно, можно использовать и с благими намерениями, чтобы «справиться с рядом серьезных вызовов сегодняшнего дня», но все-таки прогнозирование и моделирование профилей способно самым серьезным образом ущемить «право на неприкосновенность частной жизни, справедливое правосудие, привести к необоснованным задержаниям и нарушить право на жизнь».

Согласно докладу, многие страны и компании нередко ведут себя довольно неосмотрительно, в спешке интегрируя технологии искусственного интеллекта в свои системы. Бывало, что людей ошибочно арестовывали из-за того, что программа распознавания лиц давала сбои. Прошлым летом, к примеру, в Мичигане задержали чернокожего мужчину после того, как технология распознавания лиц по ошибке идентифицировала его как подозреваемого в ограблении магазина.

Распознавание лиц позволяет устанавливать потенциально неограниченную слежку за людьми. В такого рода системах данные хранятся долгое время, и это чревато дополнительными проблемами. Эта информация может быть использована со злым умыслом, что повлечет серьезные риски для национальной безопасности.

Комиссар ООН также раскритиковала системы ИИ за отсутствие прозрачности и их зависимость от больших баз данных о множестве людей. Это может приводить к ошибочным или дискриминационным решениям. «Запутанность информационной среды, алгоритмов и моделей, на которых базируются разработка и эксплуатация систем искусственного интеллекта, а также умышленная секретность и конфиденциальность, введенная государственными и частными структурами, – вот что мешает общественности осознать истинное влияние систем искусственного интеллекта на права человека и окружающий его мир», – говорится в докладе Мишель Бачелет.

В июле нынешнего года стало известно, что шпионское программное обеспечение Pegasus использовалось для взлома смартфонов тысяч людей по всему миру, от журналистов до правительственных чиновников и правозащитников, включая даже министра финансов Франции Бруно Ле Мэра. Выступая по этому поводу в Совете Европы, Бачелет указала, что скандальные разоблачения вовсе не удивительны, «поскольку слежка во всем мире, осуществляемая правительствами и частными фирмами, достигла беспрецедентного уровня».

Оуэн Грир, директор некоммерческой организации «Защита ради будущего», сказал в интервью ABC News, что этот доклад лишний раз убеждает в существовании «экзистенциальной угрозы», которую несет новейшая и стремительно развивающаяся технология. «Кроме того, в докладе отражен и крепнущий международный консенсус среди экспертов в сфере технологий и прав человека: они едины в том, что системы наблюдения, базирующиеся на искусственном интеллекте, такие как системы распознавания лиц, представляют собой реальную угрозу человеческой свободе, ставят под сомнение ее будущее. Подобно ядерному или биологическому оружию, в этой технологии заложен колоссальный потенциал вреда. Если сегодня ее нельзя эффективно регулировать, то ее необходимо запретить».

Грир добавил: «Распознавание лиц и прочее дискриминационное использование искусственного интеллекта может нанести неоценимый ущерб вне зависимости от того, прибегает ли к нему правительство или частные корпорации. Мы солидарны с выводом, который содержится в докладе ООН: необходимо на глобальном уровне приостановить продажу технологий распознавания лиц и других способных нанести немалый вред√ систем искусственного интеллекта».

Эран Хильдсхайм, «Реальная экономика». М.К.