Боты-комментаторы умнеют

Одним из самых влиятельных в США сайтов является Yelp, место для размещения обзоров на рестораны, службы доставки, парикмахерские и прочие розничные предприятия. Отзывы на Yelp в настоящее время невероятно важны, американцы им доверяют. Зачастую хорошие отзывы на ресурсе могут привести к процеветанию, а плохие — к закрытию бизнеса.

В России есть аналоги Yelp, — iRecommend, например, — однако посещаемость у них не та, и влияние, соответственно, тоже совсем не то. Вместе с тем даже и на отечественных сайтах значительная доля отзывов покупателей является фальшивой, бизнес не ленится вкладывать деньги и усилия в покупку мнений. На Yelp, где отзывы очень важны для бизнеса, на покупку фальшивых комментариев тратится значительно больше средств.

Некоторые предполагают, что в этом и заключается бизнес-модель сайта Yelp. Разместить на сайте фальшивые слащавые отзывы самостоятельно довольно сложно — модераторы строго удаляют все сколько-нибудь подозрительные мнения. Нужно нанимать дорогостоящих профессионалов, чтобы те сумели обмануть модераторов и притвориться настоящими клиентами. Однако если заказать рекламу на сайте Yelp, можно осторожно надеяться, что модераторы закроют глаза на некоторые вольности заказчиков.

Сложнее всего тем, кто ориентируется на подростков. Согласно исследованиям, подростки доверяют исключительно интернету, причём скорее мнениям простых людей, чем обзорам журналистов. Для подростковых товаров выбор прост: или они получают хорошие отзывы на Yelp, или они не получают хороших продаж.

До последнего времени эта экосистема была более-менее стабильной — модераторы легко вычисляли обычных «ботов», а «боты» продвинутые были слишком малочисленны, чтобы серьёзно влиять на общую картину.

Сейчас однако учёные Университета Чикаго провели исследование, которое может если не уничтожить Yelp, то как минимум заставить сайт полностью пересмотреть принципы своей работы.

«Нью-Йорк пост» сообщает, что учёные натренировали нейросеть на создание фальшивых отзывов на Yelp. Эти отзывы столь хороши, что опытные модераторы путают их с человеческими. Учёные провели эксперименты и обнаружили, что созданное ими информационное оружие может теперь легко двигать рейтинги фирм вверх или вниз:

http://nypost.com/2017/08/31/robots-learned-how-to-write-fake-yelp-reviews-like-a-human/

Конечно, «Нью-Йорк пост» — жёлтая газета. Пожалуй, «Нью-Йорк пост» можно назвать папой всех жёлтых газет: горячие сенсации на его страницах будоражат воображение американцев с 1801 года. Однако для недоверчивых есть ссылка на само исследование Университета Чикаго, из которого ясно следует — да, учёные создали бота-комментатора, способного надёжно преодолевать сито человеческой модерации:

Юмор ситуации заключается в том, что учёные намекнули — если Yelp не хочет похоронить свой бизнес под лавиной фальшивых отзывов, ему стоит задуматься о найме команды для разработки бота-модератора. Это можно было бы даже назвать шантажом, если бы Yelp не строил общение с клиентам на том, что те верят — оплата рекламы каким-то мистическим образом влияет на тон появляющихся на Yelp отзывов.