«Искусственный разум» подвержен предрассудкам
Обучаясь человеческому языку, компьютерные программы перенимают вместе с ним и наши культурные стереотипы.
Человеческий мозг ищет ассоциации между словами, основываясь на значении этих слов. Ассоциации могут быть как очевидными, так и не очень, например, при слове «роза» у кого-то в голове всплывет не только «аромат», «цветок» и прочие приятные вещи, но и «боль» – если для человека шипы розы оказались важнее ее запаха, а для кого-то цветок вообще может быть предвестником неприятностей.
Однако, если отвлечься от индивидуальных особенностей и личного опыта, то в целом у слов есть достаточно устойчивые «свои» связи, которые мы даже не всегда осознаем и которые можно обнаружить с помощью специального теста на скорость ассоциаций: чем прочнее в голове сидит какая-то ассоциация, тем быстрее человек отреагирует на то или иное слово, связанное с другим. Так, в связи с «цветком» самыми быстрыми ассоциациями будут слова, обозначающие что-то приятное, напротив, «оружие» быстрее попадает в отрицательное понятийное окружение. Такие ассоциативные тесты могут много чего рассказать социологам: например, в США среди ассоциаций к «оружию» часто возникают афроамериканцы, тогда как белые люди обычно ассоциируются с безопасными и безвредными объектами.
Исследователи из Принстона разработали похожий тест, но только для машин. Наверно, сейчас уже ни для кого не секрет, что существуют алгоритмы, позволяющие машине разговаривать с человеком, и некоторые люди, бывает, часами сидят в сети, переругиваясь с лингвистическим роботом (правда, не очень понятно, говорит ли это о достоинствах робота, или же указывает на некоторые, скажем так, умственные особенности его собеседника).
Но, когда машину обучают словам, то их значения ей объясняют не через соответствия слов каким-то объектам. Вместо этого машине дают кусок текста из интернета, который она анализирует на предмет того, какие слова встречаются рядом друг с другом часто, а какие – редко. Анализ довольно сложен, тем не менее, с его помощью машина понимает, что слова «лед» и «пар» имеют большее отношение к слову «вода», нежели, например, к слову «мода».
Однако интернет заполнен словами, которые пишутся теми же людьми и которые стоят рядом, подчиняясь тем же человеческим ассоциациям. Так что стоит ли удивляться тому, что, как пишут авторы работы в Science, у лингвистических роботов связи между словами оказались те же, что и у людей: цветы и музыкальные инструменты машина употребляла в связке с приятными словами, насекомые и оружие – с неприятными.
То же самое касалось социальных групп: имена, свойственные белым, ассоциировались машиной с положительными вещами, тогда как имена черных оказывались связаны со словами с отрицательной окраской.
И то же самое было с молодыми и старыми: имена стариков несли, если можно так выразиться, неудовольствие, от имен молодых же исходили лишь приятные ощущения. И то же самое – с мужчинами и женщинами: к «мужчинам» тяготели, например, «математика», «физика» и вообще науки, «женщины» же оказались в одной связке с разнообразными искусствами, и целым рядом «женских профессий», таких, как гигиенист и библиотекарь.
То есть машина, манипулирующая языком, оказалась подвержена тем же психологическим стереотипам, что и человек: убежденность в том, что наука – не женское дело, называется сексизмом – и мы видим это в машинных ассоциациях, убежденность в том, что черные – это всегда опасно, называется расизмом – и мы видим это в машинных ассоциациях, убежденность в том, что возрастной работник по определению хуже молодого, называется эйджизмом – и мы видим это в машинных ассоциациях.
С другой стороны, если речь идет о человеке, не стоит забывать, что имеются в виду именно неявные связи, когда сам человек мало задумывается о том, какие слова и как у него связаны, и если его спросить напрямую о том, что он думает, к примеру, о женщинах в науке, то он ответит, что вполне признает их вклад в научное знание и всячески приветствует их участие в исследованиях. С третьей стороны, неизвестно, как поведут себя в будущем такие неявные ассоциации и не станут ли они явными.
Впрочем, в данном случае нас больше интересует не столько люди, сколько машины. Как пишет портал LiveScience, сами авторы признают, что такие программы, которые обучаются человеческому языку, становятся в итоге своеобразным слепком нашей культуры, со всеми предрассудками и среднестатистическими эмоциями: «цветок – это прекрасно, а черные – это опасно». Слепок, возможно, несколько упрощенный, и касающийся только отдельных стран; хотя очевидно, что если бы программа обучалась русскому или китайскому, то и тогда бы она обзавелась какими-нибудь характерными ассоциациями, просто своеобразие таких ассоциаций было бы другим.
Но, так или иначе, в таком виде искусственный интеллект выглядит просто продолжением обычного, человеческого, пусть и работающего намного быстрее – и, повторим, странно было бы ожидать чего-то иного. Напоследок не откажем себе в удовольствии напомнить, что в 1971 году великий писатель-фантаст Станислав Лем рассмотрел очень похожую проблему в рассказе «Ананке», в котором человек, занимавшийся тренировкой бортовых компьютеров космических кораблей, сумел заразить эти компьютеры собственным психическим расстройством, что в итоге привело к катастрофе.
Комментарии
" О том, что "страшные сны IT-специалистов стали реальностью" сообщила Pravda.ru со ссылкой на сенсационный материал The Intercept - в котором говорится о колоссальной утечке из АНБ вредоносных программ.
Эти утилиты, среди которых ODDJOB, ZIPPYBEER, ESTEEMAUDIT и "супервскрывалка" FUZZBUNCH используются АНБ и ФБР для взлома и получения доступа к файлам, данным, настройкам, экрану, фотографиями, переписке, а также камерам и микрофонам всех компьютеров, планшетов и смартфонов на базе Windows всех версий.
Такие "утилиты" используют "уязвимости нулевого дня" - грубо говоря, дыры в Windows, которые еще не известные ни хакерам, ни компании Microsoft и позволяют взломать Windows версий XP, Vista, 7, RT, 8, 8.1 и даже Windows 10.
"Утекшее ПО дает любому человеку с достаточными навыками использования компьютера возможность (цитата) "сеять хаос среди милионов пользователей Microsoft",- звучит в телеграм-канале "Сайберсекьюрити и Ко". .....
"Я не думаю, что я когда-либо видел столько средств взлома, одновременно попавших и свободно размещенных в интернет, хотя я занимаюсь взломами и защитой от них уже 20сказал известный хакер Мэтью Хики.
Круговорот светил пребудет вечно.
Но завтра ты пойдешь на кирпичи
У каменщика под рукой беспечной.
О. Хайям
:)))
Комментарий удален модератором
Только мозг позволяет или запрещает все остальные функции...
Как пример - в голову летит кирпич...
Мозг посылает на йух все разумы, логики и альтернативно одарённое зрение... и включает реакцию на самосохранение...
Правда, если кирпич замечен на большом расстоянии, мозг может позволить разуму порассуждать... пока тот самый кирпич не представляет опасности... )
На сеансе у Мессинга сам в этом убеждался .. И это ещё к тому же без специальных технологических отмычек и разной химии !
Да, можно взломать, перепрограммировать... но и всё же, чтобы пальцы сложились в дулю, надо лезть в мозг...
Вот только со сбоем непонятки - в машине достаточно, чтобы крыса перегрызла проводок или пролетел микрометеорит сквозь, а когда взбунтуются клетки мозга, одному Аллаху известно... ))
К примеру , хотя технология программирования в данном случае нам неизвестно ..:)
На миллион идиотов после сбоя обязательно вылезет один гений... ))
А вот перезамкнуть импульсы мозга так, чтобы заставить чела выполнять конкретные функции... да годами, я пока не слышал...
И всю мою сознательную жизнь постоянно пытается перемыкать мне мозги , чтобы они работали в нужном для кого то направлении ..
С яслей и до пенсии , только этим и занимаются .:))
Учёные доказали , что программирование мозга , которое мы называем воспитанием и обучением необходимый процесс для существования человека в обществе себе подобных или в стае волков , или среди обезьян .. Процессы тока разные..
Ты про это ?
Если о другом , то с технологиями спецслужб и тайных обществ не знаком , хотя и слышал краем уха .:)
Кстати для ИИ применяются такие же технологии обучения , что и для человека .
В настоящий ИИ я поверю только тогда, когда он сам, без вмешательства человека будет воспроизводить себе подобных и всё необходимое - начиная с геологоразведки и заканчивая конвеером, с которого сыпятся готовые изделия... ))
Нас обучают читать и писать, потому что мы этому обучаемы... Ведь бесполезно обучать этому какую либо другую живность... Можно попытаться сделать биоробота, но вот сколько он просуществует в автономном режиме и на что будет способен в дальнейшем - это вопрос открытый...
При написании отлаживают моторику и производят совместную отладку необходимую для работы писарем , к примеру ..
То же можно сказать и про остальные виды деятельности ..
Конкретный пример ... " Сбербанк автоматизирует работу юридической службы, что позволит готовить типовые иски без участия человека. Об этом сказал в ходе Гайдаровского форума зампред правления Сбербанка Вадим Кулик....
четвертом квартале мы разработали прототип робота-юриста, который может сам писать исковые заявления. Это один из примеров работающих роботов. Все типовые иски будут переведены в перспективе на автоматизированный формат....
Кулик сообщил, что до конца года в результате данной работы может быть сокращено 3 тыс. рабочих мест..."
http://www.banki.ru/news/lenta/?id=9478614
Я уж промолчу про полностью автоматизированные заводы ..
А железяка без человека всего лишь руда... ))
Вполне может быть , что вскоре люди могут стать источником дешёвых углеводородов , для промежуточной расы железяк разумных ... И будут оне восстанавливать нормальное функционирования планеты , которую эти люди именуют своим домом и её подготовки для появления седьмой расы , которая в отличии от этой будет обладать большим умом и сообразительностью ..:))
Вот только " дядя Фёдор " слетает за инструкциями на Марс ..:)))
А ведь сначала был только рот и пищеварительный тракт, который действовал чисто на рефлексах выживания... (Венерина мухоловка, Росянка капская)...
Но жизнь усложнялась и пришлось желудку заиметь свой собственный пищеварительный мозг, а потом и головной... Дабы отдать функции по поиску и не отвлекаться...
Теперь и квантовым компом обозвали... Растём... ))
Меня лично такая деятельность напрягает , а цели подобных изысканий тревожат ..