Войти в аккаунт
Хотите наслаждаться полной версией, а также получить неограниченный доступ ко всем материалам?
Заявка на добавление в друзья

Почему ИИ могут становиться расистами и сексистами

После того, как Chatbot от Microsoft Tay начал выдавать расистские комментарии, пообщавшись 24 часа с людьми в Твиттере, стало ясно, что ИИ способны заразиться не самыми благородными идеями.

Многие ИИ способны понимать человеческий язык, обучась на основе огромного массива данных, известного как Common Crawl. Сам Crawl является результатом крупномасштабного сканирования Интернета в 2014 году, который содержит 840 миллиардов лексем и слов. Исследователя из Принстонского Центра информационных технологий задались вопросом, а не может ли сам массив, созданный усилиями миллионов людей, содержать отклонения, которые могут быть обнаружены с помощью алгоритма. Чтобы понять это, они обратились к необычному источнику: неявному ассоциативному тесту (IAT), который используется для измерения часто неосознанных социальных отношений.

Суть теста заключается в следующем: людям, проходящим этот тест, предлагается соотнести слова и категории. Чем больше человек задумывается, к какой категории отнести слово, тем меньше у него ассоциаций с ним. Например, женщины чаще ассоциируются с детьми и семьёй, а мужчины — с работой. Исследуя распределение ответов в зависимости от пола, возраста, расы, наличия инвалидности и тому подобного, учёные получают картину среза человеческих отношений в данном сообществе и обнаруживают скрытые стереотипы поведения.

Чтобы увидеть, какие понятия более тесно связаны друг с другом, исследователи разработали несколько иной тест проверки ассоциаций Weat, идея которого позаимствована из проекта векторных вложений Стэндфорского университета. Вместо учёта одиночных связей с каждым словом связывается целая группа понятий, например: для слова «собака» набор заключается в словах «пёс», «щенок», конкретная порода и т.д. Чтобы не усложнять тест, учёные ограничили число векторов-понятий для каждого слова до 300.

Чтобы разобраться, насколько близко связаны понятия в Интернете, тест Weat учитывает и другие факторы вроде частоты использования слова. После прохождения алгоритмического преобразования близость в Weat эквивалентна времени, которое требуется для человека, чтобы классифицировать понятие в IAT. Чем дальше друг от друга эти два понятия, тем более отдалённо они связаны в сознании людей.

По сути дела группа из Принстона создала тест IAT для ИИ, для определения, насколько последний в ходе общения с конкретными людьми, данные от которых содержат необъективную информацию, обучится неверным стереотипам.

Существует гипотеза, что язык формирует сознание. Теперь у нас есть алгоритм , который предполагает, что это может быть правдой, по крайней мере, когда речь идёт о стереотипах.

Источник

Источник: gearmix.ru
{{ rating.votes_against }} {{ rating.rating }} {{ rating.votes_for }}

Комментировать

осталось 1800 символов
Свернуть комментарии

Все комментарии (8)

alex Bronstain

комментирует материал 21.04.2017 #

"Стереотип", скажите... И вообще, слово с как бы отрицательной коннотацией, да? А не посмотреть ли на это с другой стороны, и не назвать ли это чем-то вроде "опыта цивилизации"? Вот у ребенка сразу после рождения никаких стереотипов нет, да? А потому он тянется к огню. Приобретет опыт, будет знать, что огонь - горячо, лучше не трогать, так? А ведь это тоже не что иное, как стереотип, не находите? И из него есть исключения, да?

no avatar
Гайдпаркер Игорёк M

отвечает alex Bronstain на комментарий 21.04.2017 #

В том то и дело, что ИИ не обучается в естественных условиях - собственном опыте, вроде того что огонь - это горячо, у него нет эмоционального механизма, а все на словах - на инструкциях и уставах - принудительное вбивание в сознание.
Есть опыт, когда человеку внушили что приложат к его спине очень горячий металлический предмет, но приложили холодный и вследствие чего появился ожег. Зомби.

no avatar
alex Bronstain

отвечает Гайдпаркер Игорёк M на комментарий 21.04.2017 #

Эмоции тут не при чем, болевой сигнал - не "эмоция". Слова же для ИИ - и есть окружающий мир; кстати, ребенок не знает - но мы-то с Вами знаем, что и для него "окружающий мир" тоже опосредуется сигналами его нервов (боль, изображение из глаз, и т.д.).

И то, что Вы привели как пример "страшного зомбирования", есть ничто иное, как аппеляция (ложная, правда) к УЖЕ ПОЛУЧЕННОМУ опыту. И этот опыт (ах, стереотип-с) есть благо, помогает выжить (попробуйте убедить оператора атомной электростанции, что он получил серьезную дозу радиации - возможно, у него появятся некоторые симптомы лучевой болезни, а теперь попробуйте проделать то же самое с неграмотным Масаи, посмотрим, что выйдет).

Основывать рассуждение о "вреде" приобретения опыта на том основании, что можно, опираясь на этот опыт, человека обмануть, это то же самое, что утверждать вредность обладания деньгами на том основании, что их могут украсть, обладания домом - на том основании, что он может сгореть, и т.д.

"Когда у вас нет собаки, её не отравит сосед, и с другом не будет драки, когда у вас друга нет".

no avatar
Гайдпаркер Игорёк M

отвечает alex Bronstain на комментарий 22.04.2017 #

Нет, вы не поняли меня. Я говорил не о боли, а о состоянии психики. Сам эмоциональный механизм разделяет информационный поток на две составляющие с пиковыми значениями, что помогает формировать долговременную память. По этому, только в естественных условиях - на собственном опыте, можно определить что является позитивом или негативом, а защитная реакция организма будет отторгать негатив дабы сохранить сбалансированное (уравновешенное) состояние психики для продолжения жизни. Иначе наступит разрушение.

no avatar
Гайдпаркер Игорёк M

отвечает Гайдпаркер Игорёк M на комментарий 22.04.2017 #

ИИ таким механизмом не обладает, его основа в расширении памяти и хранении - собирается вся имеющаяся информация (99% мусорной), а система отбора не совершенна. :)) Получается парадоксальная ситуация - чем больше информации, тем тяжелее произвести правильный отбор.

no avatar
Гайдпаркер Игорёк M

отвечает Гайдпаркер Игорёк M на комментарий 22.04.2017 #

Такой механизм не способен эволюционировать.:)

no avatar
alex Bronstain

отвечает Гайдпаркер Игорёк M на комментарий 22.04.2017 #

По-видимому, те первые бактерии, близкие родичи которых до сих пор среди нас живут (сине-зеленые) тоже оказались неспособны эволюционировать, и так и дожили до наших времен, почти не изменившись, и что же? От них отщепилась ветвь, которая это смогла, и потомки которой, в конечном итоге, мы.

no avatar
×
Заявите о себе всем пользователям Макспарка!

Заказав эту услугу, Вас смогут все увидеть в блоке "Макспаркеры рекомендуют" - тем самым Вы быстро найдете новых друзей, единомышленников, читателей, партнеров.

Оплата данного размещения производится при помощи Ставок. Каждая купленная ставка позволяет на 1 час разместить рекламу в специальном блоке в правой колонке. В блок попадают три объявления с наибольшим количеством неизрасходованных ставок. По истечении периода в 1 час показа объявления, у него списывается 1 ставка.

Сейчас для мгновенного попадания в этот блок нужно купить 1 ставку.

Цена 10.00 MP
Цена 40.00 MP
Цена 70.00 MP
Цена 120.00 MP
Оплата

К оплате 10.00 MP. У вас на счете 0 MP. Пополнить счет

Войти как пользователь
email
{{ err }}
Password
{{ err }}
captcha
{{ err }}
Обычная pегистрация

Зарегистрированы в Newsland или Maxpark? Войти

email
{{ errors.email_error }}
password
{{ errors.password_error }}
password
{{ errors.confirm_password_error }}
{{ errors.first_name_error }}
{{ errors.last_name_error }}
{{ errors.sex_error }}
{{ errors.birth_date_error }}
{{ errors.agree_to_terms_error }}
Восстановление пароля
email
{{ errors.email }}
Восстановление пароля
Выбор аккаунта

Указанные регистрационные данные повторяются на сайтах Newsland.com и Maxpark.com