Фирма финансирует использование искусственного интеллекта для выявления антисемитизма в Интернете

На модерации Отложенный

По мере того как платформы социальных сетей предпринимают шаги по блокированию отрицания Холокоста, междисциплинарный проект использует искусственный интеллект (ИИ) в борьбе с онлайн-антисемитизмом, сообщает «The Times of Israel».

Проект «Расшифровка антисемитизма» — это результат сотрудничества Королевского колледжа Лондона и Центра исследований антисемитизма Берлинского технического университета. Проект финансируется Фондом Альфреда Ландекера, который внесет 250 миллионов евро в течение 10 лет. Фонд Ландекера был создан в прошлом году немецкой «JAB Holding Company». Принадлежащая известной семье Рейманн, предшественница фирмы времен нацизма использовала как минимум 838 подневольных рабочих во время войны. Сегодня «JAB Holding Company» владеет дочерними компаниями, включая «Panera Bread», «Au Bon Pain» и «Krispy Kreme».

Глава компании во время войны Альберт Рейманн-младший был истовым нацистом, у которого был роман с дочерью еврея Альфреда Ландекера. Плодом «запретной» любви стали трое детей. Сам Ландекер был доставлен гестапо в гетто в Избице, а оттуда — в нацистский лагерь смерти, где и погиб. В 2016 году семья Рейманн заказала расследование своих связей с нацистами. «Но семья Рейманн не была удовлетворена простым раскрытием своего прошлого. Наследники компании также заботятся о поддержке переживших Холокост и пропагандируют демократию и права человека для сохранения и расширения плюралистического общества», – говорится на сайте Фонда Ландекера.

«Учится непосредственно у человека»

Основная миссия недавно созданного Фонда Ландекера — рассказывать об истории Холокоста и бороться с антисемитизмом, особенно в Интернете. По словам ведущего разработчика Дэвида Эллингтона, в рамках проекта «Расшифровка антисемитизма» создается инструмент обнаружения с открытым исходным кодом для согласования с платформами социальных сетей. «Постоянные усилия «Фейсбука» и «Твиттера» по борьбе с разжиганием ненависти в Интернете основаны на хороших намерениях, но не соответствуют требованиям времени», – заявил Эллингтон, старший преподаватель кафедры социального и культурного искусственного интеллекта в Королевском колледже Лондона. «Наш подход отличается от подхода «Фейсбука» и «Твиттера» в том, что мы будем использовать не только ИИ, но и поддержку историков, лингвистов и других ученых, чтобы распознавать антисемитские настроения», – заявил Эллингтон «The Times of Israel». «Сложность» антисемитских высказываний в Интернете требует междисциплинарного подхода, подчеркнул Эллингтон. Например, в Великобритании наблюдается всплеск «мифов о заговоре», обвиняющих евреев в создании и распространении Covid-19. По его словам, большая часть слов и изображений на эту тему «закодирована» и выражена другими, менее привычными терминами.

По словам эксперта по ИИ Кэти Холл, существуют значительные ограничения, когда дело доходит до использования ИИ для выявления и борьбы с языком ненависти. По ее словам, некоторые из этих ограничений проистекают из массивов данных, используемых крупными технологическими компаниями. «Мужчины и женщины, разные расы и этнические группы по-разному описывают себя», – заметила Холл.

Как основатель и генеральный директор «Claira», рынка найма на работу на основе решений искусственного интеллекта, Холл помогает компаниям набирать на должности более разнообразные группы кандидатов. «Мы пытаемся уравнять правила игры и быть осознанными и осторожными в устранении предвзятости», – заявила Холл «The Times of Israel». «В настоящее время статистические данные в значительной степени зависят от анализа текста», – заметила Холл. Некоторые алгоритмы были обучены, работать с аудио- или видеозаписями. Однако, по словам Холл, «идет работа по интеграции голоса, разговоров и видео в наборы данных». По мнению Холл, «необходимо учиться непосредственно у человека. Сейчас подходящий момент – хотим ли мы найти способ выявить предвзятость или нет. Человечество очень разнообразно, а статистические данные действительно сильно отстают».

«Драться одной рукой, со второй, привязанной к спине»

«Расшифровка антисемитизма» – далеко не первая попытка борьбы с разжиганием ненависти в Интернете. За последние несколько лет десятки фондов и организаций пытались бороться с ростом разжигания ненависти в отношении евреев и других групп населения. «Что бы ни делали эти организации, это не работает», – заявил Андреас Эберхард, директор-основатель и генеральный директор Фонда Альфреда Ландекера. «Вот почему мы приняли такой междисциплинарный подход, и в ближайшие недели, месяцы и годы партнерство позволит дискурсивным аналитикам, компьютерным лингвистам и историкам собраться вместе, объединив свои знания для достижения одной общей цели», – подчеркнул Эберхард в интервью «The Times of Israel». «Такое сотрудничество – единственный способ добиться прогресса в этом вопросе, и не делать этого – все равно, что сражаться одной рукой, со второй, привязанной к спине», – заявил Эберхардт, возглавлявший несколько фондов, занимающихся немецко-еврейскими отношениями и памятью о Холокосте.

По словам старшего преподавателя Эллингтона, большая часть клеветы на евреев в Интернете является «ненаказуемой». И, прежде чем клевета может быть подвергнута санкциям или наказанию, ее необходимо идентифицировать, заявил он. «Как только язык ненависти будет раскрыт, как надеется наш проект, масштаб проблемы станет ясен, и те организации, которые в состоянии удалить такой контент – платформы, на которых он размещен, – будут вынуждены действовать, и мы будем оказывать на них давление», – подчеркнул Эллингтон.

Ненавистнические высказывания в Интернете могут привести к насилию в реальном мире – от террористических атак во Франции до стрельбы в синагоге Питтсбурга в 2018 году. «Мы видим, что разжигание ненависти в Интернете и преступления на почве ненависти всегда связаны», – заявил Матиас Беккер, лингвист из Берлинского технического университета и руководитель проекта «Расшифровка антисемитизма». «Чтобы предотвратить радикализацию все большего числа пользователей в Интернете, важно определить реальные масштабы антисемитизма – также принимая во внимание его неявные формы, которые со временем могут стать более явными», – заключил Беккер.