Сознание под контролем

Интернет породил множество тонких форм воздействия, которые могут значительно повлиять на результаты выборов и подвергнуть манипуляции все то, что мы говорим, думаем и делаем.

В прошлом веке немалое количество писателей выражали озабоченность по поводу будущего человечества. В своей книге «Железная пята» (The Iron Heel) американский писатель Джек Лондон представил картину мира, в котором горстка зажиточных корпоративных титанов — «олигархов» — удерживают массы в безвыходном положении с помощью жестокой системы поощрений и наказаний. Большая часть населения находится в рабском состоянии, тогда как те, кому повезло, получают приличную заработную плату, позволяющую жить в комфортных условиях — но без какого бы то ни было реального контроля над своей жизнью.

В романе «Мы» (1924 год) блестящий русский писатель Евгений Замятин, предвидя эксцессы создававшегося в то время Советского Союза, представил мир, в котором люди находятся под контролем с помощью тотального наблюдения. Стены их домов сделаны из стекла, и поэтому можно наблюдать за всем, что они делают. Им разрешается опускать занавески лишь на час в день для занятий сексом, однако и время свидания, и сами любовники должны быть предварительно зарегистрированы государством.

В «Прекрасном новом мире» (1932 год) британский автор Олдос Хаксли нарисовал почти совершенную картину общества, в котором несчастье и агрессия удалены из человечества с помощью комбинации генетического инжиниринга и выработки условного рефлекса. В значительно более мрачном романе «1984» (1949 год) соотечественник Хаксли Джордж Оруэлл представил общество, в котором контролируется сама мысль; в мире Оруэлла детей учат пользоваться упрощенной версией английского языка, получившей название «новояза», и делается это для того, чтобы они никогда не смогли получить возможность выражать такие идеи, которые представляли бы опасность для общества.
Все это, конечно же, вымышленные истории, и в каждой из них обладающие властью лидеры используют заметные формы контроля, против которого выступают, по крайней мере, некоторые люди, и иногда им сопутствует успех. Однако в документальном бестселлере «Скрытые увещеватели» (The Hidden Persuaders, 1957), который недавно появился в юбилейном 50-м издании, американский журналист Вэнс Паккард (Vance Packard) нарисовал «странный и довольно экзотический тип влияния», который быстро распространялся в Соединенных Штатах и который, в определенной степени, представлял собой более серьезную угрозу, чем вымышленные типы контроля, показанные в упомянутых романах. По мнению Паккарда, руководители американских корпораций и политики начали использовать более тонкие и во многих случаях совершенно нераспознаваемые методы для изменения мышления людей, их эмоций и их поведения, методы, основанные на достижениях психиатрии и социальных наук.

Многие из нас слышали, по крайней мере, об одном из них: о подсознательной рекламе (subliminal stimulation), или о том, что Паккард называет «надпороговым эффектом» (subthreshold effects) — речь в данном случае идет об использовании коротких сообщений, которые говорят нам, что нужно делать, но которые появляются на такое короткое мгновение, что мы просто не осознаем то, что мы их увидели. В 1958 году Национальная ассоциация вещательных компаний (National Association of Broadcasters) — ассоциация, устанавливающая стандарты для телевидения, — была вынуждена отреагировать на возникшие опасения относительно того, что один кинотеатр в Нью-Джерси, возможно, использовал скрытые сообщения в демонстрировавшихся фильмах для увеличения объемов продаж мороженого. В результате Национальная ассоциация вещательных компаний изменила существовавшие правила и запретила использование подсознательных сообщений в эфирном вещании. В 1974 году Федеральная комиссия по коммуникациям (Federal Communications Commission) высказала мнение о том, что использование подобных сообщений «противоречит общественным интересам». Проект закона о запрещении подсознательных сообщений также был представлен в Конгресс США, однако так и не был одобрен. В Соединенном Королевстве, а также в Австралии существует строгие законы, запрещающие их использование.

Подсознательное стимулирование, вероятно, до сих пор применяется в Соединенных Штатах — в конечном итоге, трудно установить факт его использования, и никто за этим не следит. Проведенные исследования говорят о том, что оно оказывает незначительное воздействие и, в основном, влияет на тех людей, которые уже мотивированы и готовы последовать передаваемой рекомендации; подсознательное стимулирование желания пить действует только на тех людей, которые уже испытывают жажду.

Паккард обнаружил значительно более серьезную проблему — влиятельные корпорации постоянно ведут поиск (а в некоторых случаях уже применяют) широкого набора приемов, направленных на контролирование поведения людей, и делается это так, что они об этом не подозревают. Он описал некое подобие группировки, в которой торговцы работают в тесном контакте с учеными для определения, среди прочего, того, как заставить людей покупать вещи, которые им не нужны, и как формировать условные рефлексы у детей для того, чтобы они стали хорошими потребителями, — подобного рода склонности открыто прививаются, в том числе с помощью специальных тренировок, в романе Хаксли «Прекрасный новый мир». Опираясь на достижения современной науки, торговцы быстро научились использовать неуверенность людей, их слабости, подсознательные страхи, агрессивные чувства и сексуальные желания для того, чтобы изменить их мышление, эмоции и поведение, и при этом люди совершенно не догадываются о том, что ими манипулируют.

В начала 1950 годов, как отметил Паккард, политики восприняли это сообщение и начали рекламировать себя, используя те же самые тонкие силы, которые применяются при продаже мыла. Паккард в качестве эпиграфа к своей главе, посвященной политике, приводит вызывающее тревогу высказывание британского экономиста Кеннета Боулдинга (Kenneth Boulding): «Мир невиданной диктатуры возможен, и в нем все еще будут использоваться формы демократического правления». Может ли такое, на самом деле, произойти, и как это будет работать?

Те силы, которые описывает Паккард, в последние десятилетия стали все более широко распространяться. Успокаивающая музыка, которую мы слышим в супермаркетах, заставляет нас передвигаться более медленно и покупать больше товаров, независимо от того, нужны они нам или нет. Большинство бессодержательных мыслей и интенсивных чувств, с которыми с утра до вечера сталкиваются наши подростки, тщательным образом подобраны специалистами очень высокого уровня в области маркетинга, работающими в индустрии моды и развлечений. Политики сотрудничают с большим количеством самых разных консультантов, которые внимательно анализируют все действия политиков, направленные на то, чтобы заручиться поддержкой избирателей, и при этом интонации, выражение лица, грим, прическа и слова — все это оптимизируется, как это делается при рекламном оформлении зернового завтрака. Некоторые из увещевателей хотят, чтобы мы купили какую-то вещь или поверили во что-нибудь. И именно конкурентная природа нашего общества, в итоге, позволяет нам оставаться относительно свободными.

Но что произойдет, если начнут появляться такие источники контроля, которые мало что имеют общего с конкуренцией, или вообще ничего? А что произойдет, если будут разработаны новые средства контроля, который окажутся значительно более мощными — и намного более незаметными, — чем любой из существовавших ранее вариантов? И что будет, если новые типы контроля позволят небольшой группе людей оказывать огромное влияние не только на граждан Соединенных Штатов, но и на большинство жителей планеты?

Возможно, вы удивитесь, если я скажу, что все это уже происходит.

Для понимания того, как работают новые формы контроля сознания, нам необходимо для начала взглянуть на поисковую машину — особенно на одну из них: на крупнейшую и лучшую из них, а именно — на Google. Поисковый движок Google столь хорош и столь популярен, что название этой компании стало широко используемым глаголом во всем мире. «Погуглить» (to ‘Google’) что-либо означает попытаться найти что-то с помощью поисковой машины Google, и именно таким путем, на самом деле, большинство компьютерных пользователей на всей планете сегодня получают большую часть информации почти обо всем. Они ее «гуглят». Поисковая машина Google стала воротами почти ко всем отраслям знания, и, в основном, это произошло потому, что она прекрасно выполняет свою функцию, предоставляет нам именно ту информацию, которую мы ищем, а происходит это почти мгновенно, и всегда на первой позиции после запуска нашего запроса дается список «результатов поиска».

Поисковая выдача, на самом деле, столь хороша, что около 50% наших кликов направляются на первые две позиции, а более 90% наших кликов приходятся на 10 позиций, перечисленных на первой странице с результатами поиска; мало кто просматривает другие страницы, хотя часто их количество составляет тысячи, и это означает, что они, вероятно, содержат большое количество хорошей информации. Компания Google решает, какая из миллиардов веб-страниц будет включена в результаты нашего поиска, и также то, в каком порядке они будут ранжированы. То, как она это делает, является одним из наиболее охраняемых секретов в мире — как формула Coca-Cola.

Поскольку люди с весьма большой вероятностью будут кликать на первые позиции поиска, то компании сегодня тратят миллиарды долларов каждый год на то, чтобы получить возможность каким-то образом повлиять на поисковый алгоритм Google — на компьютерную программу, которая выполняет отбор и определяет очередность позиций в списке — и заставить его повысить на несколько позиций их место в результатах поиска. Эти несколько позиций могут стать определяющими для успеха или провала в бизнесе, и появление в верхней части списка способно предоставить ключ к получению солидной прибыли.

В конце 2012 года я стал задавать себе вопрос: может быть, высокие позиции в списке результатов поиска воздействуют не только на выбор потребителей?

Может быть, подумал я, высокие позиции в списке результатов обладают незначительным влиянием на мнение людей о различных вещах? В начале 2013 года вместе с моим коллегой Рональдом Робертсоном (Ronald E Robertson) из Американского института исследования поведения и технологии (American Institute for Behavioral Research and Technology), расположенного в городе Виста, штат Калифорния, я решил проверить эту идею в ходе эксперимента, в котором 102 участника из района Сан-Диего были произвольно разделены на три группы. В одной группе ее участники видели результаты поиска, которые были в пользу одного политического кандидата — то есть, результаты со ссылками на веб-сайты, с помощью которых этот кандидат выглядит лучше, чем его или ее коллеги. Во второй группе люди получали результаты поиска, которые были выстроены таким образом, что отдавали предпочтение его или ее противнику, а в третьей группе — в контрольной группе — люди получали смешанный вариант расположения результатов, не поддерживавший ни одного из кандидатов. В каждой из групп использовались одинаковые результаты поиска и веб-страницы; единственным отличием для трех групп был тот порядок, в котором были представлены результаты поиска.

Чтобы сделать наш эксперимент реалистичным, мы использовали реальные результаты поиска, связанные с реальными веб-страницами. Мы также использовали реальные выборы — состоявшиеся в 2010 году выборы премьер-министра Австралии. Мы использовали иностранные выборы с одной целью — мы должны были быть уверенными в том, что наши участники не имели никакого «предварительного решения». Это обеспечивалось тем, что они не были знакомы с кандидатами. С помощью рекламы мы также привлекли разноплановую в этническом отношении группу зарегистрированных избирателей различного возраста, и сделано это было для того, чтобы соответствовать ключевым характеристикам американского электората.

Все участники сначала были ознакомлены с кратким описанием кандидатов, а затем их попросили оценить их по различным показателям, а также указать, за какого кандидата они бы проголосовали; как вы, наверное, уже предположили, первоначально участники не выбрали себе в качестве фаворита ни одного из кандидатов, опираясь при этом на пять предложенных нами показателей, и, в результате, количество голосов оказалось поделенным на три равные группы. Затем участникам было дано 15 минут времени для того, чтобы провести в режиме онлайн исследование с использованием Kadoodle, нашего вымышленного поискового движка, который обеспечил им доступ к пяти страницам результатов поиска, связанных с определенными веб-сайтами. Участники эксперимента имели возможность свободно перемещаться в рамках результатов поиска и веб-сайтов, то есть поступать именно так, как это происходит при использовании нами Google. Когда участники закончили свой поиск, мы попросили их вновь оценить кандидатов и вновь спросили их, за кого они бы проголосовали.

Мы ожидали, что мнение и избирательные предпочтения людей в предвзятых группах — то есть в группах, в которых люди видели рейтинги в пользу одного кандидата — сдвинуться в его пользу, и это изменение составит 2% или 3%. Но то, что мы увидели, нас просто поразило. Количество людей, поддержавших кандидата с самыми высокими показателями по результатам запущенного поиска, увеличилось на 48,4%, и все пять предложенных нами показателей сдвинулись в его пользу. Более того, 75% участников в предвзятых группах, судя по всему, совершенно не подозревали о том, что они знакомятся с предвзятыми результатами поиска. В контрольной группе мнение участников не претерпело особых изменений. Казалось, что это было главным открытием. Вызванный нами сдвиг мы назвали «эффектом манипуляции поисковой машины» (SEME, произносится как слово «seem»), и это, вероятно, было самым значительным зафиксированным воздействием на поведение людей. Однако мы не стали тут же открывать шампанское. С одной стороны, мы протестировали лишь небольшую группу людей, и все они были из района Сан-Диего.

В течение следующего года мы еще три раза провели наше исследование, и в третий раз в нем участвовали более 2 тысяч человек из 50 штатов США. В этом случае сдвиг в предпочтениях при голосовании составил 37,1% и даже больше в некоторых демографических группах — на самом деле, он доходил до 80%.

В ходе серии проведенных экспериментов мы также обнаружили, что даже при незначительном наличии предвзятого отношения на первой странице результатов поиска — а частности, с помощью включения одного элемента поиска в пользу другого кандидата на третьей и четвертой позиции полученного результата — мы могли маскировать наши манипуляции таким образом, что лишь немногие люди понимании, что они видят предвзятый вариант ранжирования, тогда как некоторые участники исследования вообще ничего не заметили. Мы не только сохраняли возможность проводить значительные изменения в избирательных предпочтениях, но и могли делать это столь незаметно. Наши результаты были значительными и последовательными, однако все они были связаны с иностранными выборами — выборами, которые проходили в 2010 году в Австралии. Но могут ли измениться предпочтения реальных избирателей в середине реальной кампании? Мы были настроены скептически в этом отношении. В ходе реальных выборов на людей обрушивается информация из разных источников, и, кроме того, они уже многое знают о самих кандидатах. Нам казалось маловероятным, что единственный опыт, связанный с поисковой машиной, может обладать существенным воздействием на избирательные предпочтения.

Для ответа на этот вопрос в начале 2014 года мы приехали в Индию прямо перед началом крупнейших демократических выборов в мире — выборов премьер-министра, проходивших в нижней палате индийского Парламента (Лок сабха). Главными кандидатами были три человека — Рахул Ганди, Арвинд Кеджривал и Нарендра Моди. Используя специалистов в режиме онлайн, а также оплайновую и печатную рекламу, мы привлекли к участию в исследовании 2150 человек из 27 (всего в Индии 35) штатов и территорий. Для этого они должны были быть зарегистрированными избирателями, которые еще не решили, за кого они будут голосовать.

Все участники были произвольно разделены на три группы, члены которых поддерживали, соответственно, Ганди, Кеджривала или Моди. Как и ожидалось, уровень информированности о кандидате бы высоким — между 7,7 пункта и 8,5 пункта по десятибалльной шкале. Мы полагали, что наши манипуляции вызовут весьма незначительный эффект или не вызовут вообще никакого эффекта, но обнаружили мы нечто иное. В среднем, мы смогли изменить пропорцию людей, поддерживавших любого из кандидатов, в целом, более чем на 20%, а в некоторых демографических группах более чем на 60%. Еще более тревожным оказался тот факт, что 99,5% участников эксперимента не продемонстрировали своего понимания того, что они имеют дело с предвзятым ранжированием результатов поиска — другими словами, они не осознавали, что ими манипулируют.

Почти полная невидимость эффекта SEME, на самом деле, вызывает интерес. Это означает следующее: когда люди — включая нас с вами — смотрят на предвзятый результат поиска, они считают, что все в порядке. Поэтому даже если сейчас вы направите запрос в Google «кандидаты в президенты Соединенных Штатов», увиденные вами результаты, вероятно, будут выглядеть достаточно произвольными, даже в том случае, если они окажутся в пользу одного из кандидатов.

Даже у меня возникли трудности в нахождении предвзятости в результатах поиска, относительно которого мне заранее было известно, что они будут тенденциозными (потому что они были подготовлены членами моей команды). Однако наши произвольно составленные и контролируемые эксперименты вновь и вновь свидетельствуют об одном: когда занимающие высокие позиции вопросы связаны с поддерживающими одного кандидата веб-сайтами, это оказывает поразительное воздействие на колеблющихся кандидатов, и в значительной мере это происходит по одной простой причине — люди склонны кликать только по имеющим более высокий уровень ранжирования позициям.

Это, на самом деле, пугает: как и подсознательные стимулы, эффект SEME является той силой, которую вы не можете увидеть; но, в отличие от подсознательных стимулов, он обладает огромным воздействием — как дух Каспер (Casper the ghost), толкающий вас вниз по лестничному пролету.

Мы опубликовали детальный отчет о наших первых пяти экспериментах по поводу эффекта SEME в престижных Записках Национальной академии наук (PNAS) в августе 2015 года. Мы, на самом деле, обнаружили нечто важное, особенно с учетом доминирующего положения Google в области поиска. Компания Google обладает монополией на поиск в интернете в Соединенных Штатах, и 83% американцев чаще всего используют поисковый движок Google, о чем свидетельствую данные исследовательского центра Pew. И если компания Google поддерживает какого-то кандидата на выборах, то ее влияние на еще не определившихся избирателей без труда может решить исход выборов.

Следует иметь с виду, что мы лишь один раз подвергли воздействию наших участников. А что будет, если воздействие в поддержку одного кандидата в проводимых людьми поисках будет осуществляться в течение недель или месяцев перед выборами? Это воздействие, скорее всего, будет намного более значительным, чем то, что мы видели во время проведения наших экспериментов.

Другие типы оказания влияния во время проведения избирательной кампании уравновешиваются конкурирующими источниками информации — наличием, например, большого выбора газет, радиопередач и телевизионных сетей, однако Google, несмотря на все намерения и усилия, не имеет конкурентов, и люди, в целом, доверяют результатам поиска, и они исходят при этом из того, что загадочные поисковые алгоритмы компании являются полностью объективными и непредвзятыми. Высокий уровень доверия в сочетании с отсутствием конкуренции позволяет Google занимать уникальное положение в том, что касается оказания воздействия на исход выборов. Еще более тревожным является то, что выстраивание по ранжиру результатов поиска совершенно ничем не регулируется, и поэтому Google имеет возможность поддержать любого кандидата, не нарушая какого бы то ни было закона. Некоторые суды даже приняли такое решение: право Google ранжировать результаты поиска по своему усмотрению защищается как одна из форм свободы слова.

А оказывала ли компания Google когда-нибудь поддержку какому-то кандидату? В ходе президентских выборов в 2012 году в Соединенных Штатах компания Google и ее руководство предоставили президенту Обаме 800 тысяч долларов и только 37 тысяч его сопернику Митту Ромни. А в 2015 году группа исследователей из Университета штата Мэриленд и из нескольких других университетов сообщили, что результаты поиска в Google, как правило, были в пользу кандидатов Демократической партии. Но является ли, на самом деле, система ранжирования в поисковой выдаче Google предвзятой?

Во внутреннем докладе Федеральной торговой комиссии США, составленном в 2012 году, подчеркивается, что в ранжировании результатов поиска в Google, обычно, финансовые интересы Google находятся на более высоких позициях по сравнению с конкурентами, и антитрестовые расследования, предпринимаемые в настоящее время в отношении Google как в Европейском Союзе, так и в Индии, основываются на выводах такого же рода.

В большинстве стран 90% онлайнового поиска проводится с использованием поисковой машины Google, что предоставляет этой компании еще большие возможности для воздействия на результаты выборов, чем в Соединенных Штатах, и при этом скорость распространения интернета во всем мире повышается, а сила воздействия Google увеличивается. В нашей статье, опубликованной в вестнике PNAS, Робертсон и я провели соответствующие подсчеты и пришли к следующему выводу: сегодня Google имеет возможность повлиять на 25% избирателей во время проведения национальных выборов в разных странах мира, и при этом никто ни о чем не будет подозревать. На самом деле, по нашей оценке, ранжирование результатов поиска Google — независимо от наличия или отсутствия предварительного планирования со стороны руководства компании — уже давно оказывает воздействие на результаты выборов, и с каждым годом это воздействие только увеличивается. А поскольку ранжирование результатов поиска является чем-то эфемерным, оно не оставляет никаких бумажных следов, что дает возможность этой компании все отрицать.

Могущество такого масштаба и такого рода незаметности является беспрецедентными в истории человечества. Но, как оказалось, наше открытие относительно эффекта SEME является лишь вершиной огромного айсберга.

Недавние сообщения свидетельствуют о том, что кандидат в президенты от Демократической партии Хиллари Клинтон весьма активно использует социальные медиа, пытаясь таким образом расширить количество своих сторонников — в том числе Twitter, Instagram, Snapchat и Facebook. В момент написания этой статьи у нее 5,4 миллиона подписчиков в Twitter, а ее сотрудники размещают свои твитты по несколько раз в час во время своего бодрствования. Лидер среди кандидатов от Республиканской партии Дональд Трамп имеет 5,9 миллиона подписчиков в Twitter и размещает свои сообщения там с такой же частотой.

Являются ли социальные медиа столь же большой угрозой для демократии как и, судя по всему, ранжирование результатов поиска? Не обязательно. Когда новые технологии используются в условиях конкуренции, они не являются угрозой. Даже на новых платформах они, обычно, используются так же, как рекламные щиты и рекламные ролики на телевидении используются уже в течение десятилетий: вы устанавливаете рекламный щит на одной стороне улицы; я устанавливают свой рекламный щит на другой. Я могу иметь больше денег для установки большего количество рекламных щитов, чем вы, однако этот процесс, тем не менее, остается конкурентным.

Но что происходит, когда подобные технологии неправильно используются теми компаниями, которые ими обладают? Исследование Роберта Бонда (Robert M Bond), который в настоящее время является профессором политических наук Университета штата Огайо, и другие авторов, опубликованное в 2012 году в журнале Nature, описывает в этическом отношении спорный эксперимент, в ходе которого в день выборов в 2010 году компания Facebook направила напоминание («выйди из дома и проголосуй») более 60 миллионам своих пользователей. Это напоминание стало причиной того, что проголосовали около 340 тысяч человек, которые в противном случае не пошли бы на избирательные участки. В своей статье, опубликованной в 2014 году в журнале New Republic, Джонатан Зиттрейн (Jonathan Zittrain), профессор международного права Гарвардского университета, отметил, что с учетом огромного количества информации, накопленной о своих пользователях, Facebook без труда может направлять подобные сообщения только тем людям, который поддерживают какую-то конкретную партию или кандидата, и подобные действия способны повлиять на результаты выборов при примерно равном количестве голосов, и никто об этом узнает. А поскольку рекламные объявления, как и ранжирование результатов поиска, являются эфемерными, манипуляция выборами подобным образом не оставляет никаких бумажных следов. А есть ли законы, запрещающие Facebook направлять рекламные сообщения избирательно определенным пользователям? Нет абсолютно никаких; на самом деле, именно с помощью целевой рекламы Facebook и зарабатывает деньги. Манипулирует ли Facebook выборами таким образом в настоящее время? Никто не знает, но, на мой взгляд, это было бы глупо и, возможно, даже неправильно, если бы компания Facebook этим не занималась. Некоторые кандидаты являются более подходящими для компании, и руководители Facebook имеют фидуциарную ответственность перед своими акционерами в том, что касается поддержки интересов компании.

Доклад Бонда был, в основном, проигнорирован, однако другой эксперимент Facebook, о котором были рассказано в вестнике PNAS, вызвал протесты во всем мире. В этом исследовании, охватившим период в одну неделю, 689 тысячам пользователей Facebook были направлены новостные сообщения, в которых содержалось либо избыточное количество позитивных данных, либо избыточное количество негативных данных, либо ни того, ни другого. После этого представители первой группы использовали, соответственно, более позитивные термины в переданных сообщениях, тогда как во второй группе использовались более негативные термины в сообщениях. Это, как утверждалось, было сделано для того, чтобы показать следующее: социальные медиа способны намеренно манипулировать «эмоциональным состоянием» людей в больших масштабах, и эту идею многие сочли тревожной. Люди были также огорчены тем, что масштабный эксперимент по воздействию на эмоции проводился без явного согласия кого-либо из его участников.

Компания Facebook, несомненно, располагает огромным количеством данных о своих пользователях, однако они бледнеет в сравнении с базами данных Google, которая собирает информацию о своих пользователях 24 часа семь дней в неделю, для чего используется более 60 различных наблюдательных платформ — поисковые движки, конечно же, а также Google Wallet, Google Maps, Google Awards, Google Analytics, Google Docs, Android, YouTube и многие другие. Пользователи сервиса Gmail, обычно, забывают тот факт, что магазины Google анализируют каждое написанное ими электронное сообщение, и даже черновики, которые они не отправляют — а также входящие сообщения, которые они получают как от других пользователей Gmail, так и от пользователей других сервисов.

В соответствии с политикой компании Google в отношении защиты личных данных — с которой соглашается человек, как только он становится пользователем какого-то продукта Google, и так происходит даже в том случае, если человека не проинформировали о том, что он использует какой-то продукт Google, — Google может поделиться полученной о вас информацией, практически, с кем угодно, в том числе с государственными ведомствами. Но никогда компания Google не поделится такого рода информацией с вами. Защита данных Google — это святое, тогда как о защите ваших личных защите речь вообще не идет.

Может ли компания Google, а также «те, с которыми мы работаем» (выражение из сферы политики в области охраны личных данных) использовать собираемую о вас информацию для нечестных целей — для манипуляции или принуждения, например? Может ли неверная информация в профилях пользователей (они не имеют никакой возможности ее изменить) ограничить их возможности или разрушить их репутацию?

Конечно, если компания Google захочет повлиять на результаты выборов, она может сначала погрузиться в свои базы данных, где хранится личная информация, для определения именно тех избирателей, которые еще не определились. Затем она может изо дня в день направлять именно этим людям ранжированные соответствующим образом результаты поиска в пользу одного из кандидатов. Одно из преимуществ подобного подхода состоит в том, что это сделает манипуляции Google чрезвычайно сложными для обнаружения их следователями.

Экстремальные формы мониторинга, как это было в случае КГБ в Советском Союзе, Штази в Восточной Германии или Большого Брата в романе «1984», являются основополагающими элементами тирании, и технологии делают как мониторинг, так и сбор данных наблюдения более легкими, чем когда бы то ни было ранее. К 2020 году в Китае будет запущена наиболее амбициозная система правительственного мониторинга — это будет единая база данных под названием Социальная кредитная система, в которой многочисленные рейтинги и записи на каждого из 1,3 миллиарда граждан будут сосредоточены в одном месте для быстрого доступа со стороны чиновников и бюрократов. Они получат возможность сразу узнать о том, что кто-то списал контрольную работу в школе, несвоевременно оплачивал счета, справлял нужду в общественных местах или говорил неподобающим образом в блогах в режиме онлайн. Как ясно показали разоблачения Эдварда Сноудена, мы быстро двигаемся к миру, в котором правительство и корпорации — иногда работая вместе — собирают огромное количество данных о каждом из нас каждый день, и при этом существует мало законов или вообще никаких законов, которые бы ограничивали то, каким образом эти данные могут использоваться. Если вы соедините сбор данных с желанием контролировать или манипулировать, то возможности окажутся бесконечными, но, вероятно, наиболее пугающая возможность прозвучала в заявлении Боулдинга (Boulding) о том, что «невиданная диктатура» является возможной «при использовании форм демократического правления».

После того как Робертсон и я представили наш первоначальный вариант доклада об эффекте SEME в редакцию вестника PNAS в начале 2015 года, мы провели сложную серию экспериментов, которые значительно расширили наше понимание этого феномена, а дополнительные эксперименты будут завершены в ближайшие месяцы. Мы сегодня лучше понимаем, почему эффект SEME обладает такой силой воздействия, а также то, каким образом он может быть в некоторой степени нейтрализован.

Мы также обнаружили нечто вызывающее тревогу — дело в том, что поисковые машины воздействуют на значительно большее количество вещей, а не только на то, что люди покупают или на то, за кого они голосуют. У нас есть данные, которые позволяют говорить о том, что почти на все вопросы, по которым люди изначально еще не приняли решения, ранжирование данных поиска оказывает воздействие, то есть почти на любые решения, принимаемые человеком. Они оказывают влияние на мнение, убеждение, отношение и поведение пользователей интернета во всем мире — и при этом люди об этом совершенно не подозревают. Это происходит при намеренном вмешательстве сотрудников компании или без него; и даже так называемые «органические» поисковые процессы регулярно предоставляют такие результаты поиска, которые оказываются в пользу какой-то одной точки зрения, что, в свою очередь, может повлиять на мнение миллионов людей, которые еще не определились по какому-то вопросу. В ходе одного из наших недавних экспериментов предвзятые результаты поиска изменили мнение людей относительно фрекинга на 33,9%. Возможно, еще более тревожным является то, что небольшая группа людей, которые показывают свою осведомленность по поводу предвзятого ранжирования результатов поиска, еще более значительным образом меняют свое мнение в предсказанном направлении; само по себе знание о том, что составленный список является предвзятым, не обязательно сможет защитить вас от воздействия эффекта SEME.

Не следует забывать, что делают алгоритмы поиска: в ответ на ваш зарос они отбирают незначительное количество веб-сайтов из миллиарда существующих, и выстраивают их определенным образом с использованием секретных критериев. Через секунды принимаемое вами решение или формируемое вами мнение — о лучшей зубной пасте, о безопасности фрекинга, о том, куда следует поехать во время следующего отпуска, о том, кто будет лучшим президентом, или о том, происходит ли, на самом деле, глобальное потепление, — все это определяется коротким списком, который вы получаете, и при этом вы не имеете никакого представления о том, как он создается.

Тем временем за кулисами без лишнего шума происходит консолидация поисковых машин, и в результате все больше людей используют доминирующую поисковую машину даже тогда, когда они думают, что они этого не делают.

Поскольку Google является лучшей поисковой машиной, а также потому, что создание поисковых роботов для быстро развивающегося интернета становится запретительно дорогим, все больше и больше поисковых машин получают свою информацию от лидера отрасли, а не собирают ее сами.

Самая последняя сделка, зафиксированная в материалах Комиссии по ценным бумагам и биржам в октябре 2015 года, произошла между компаниями Google и Yahoo! Inc.

Наблюдая за намеченными на ноябрь 2016 года президентскими выборами в Соединенных Штатах, я вижу явные признаки того, что Google поддерживает Хиллари Клинтон. В апреле 2015 года Клинтон наняла на работу Стефани Хэннон (Stephanie Hannon), переманив ее из компании Google, и она стала руководителем отдела по технологиям в команде Клинтон, а несколько месяцев назад Эрик Шмидт (Eric Schmidt), глава контролирующего Google холдинга, создал полусекретную компанию — The Groundwork — для выполнения специфической задачи, связанной с тем, чтобы обеспечить Клинтон победу на выборах. Создание компании The Groundwork заставило основатели Wikileaks Джулиана Ассанжа назвать Google «секретным оружием» Клинтон в ее борьбе за пост президента США.

Мы полагаем, что старые друзья Хэннон имеют возможность обеспечить Клинтон от 2,6 миллиона до 10,4 миллиона голосов в день выборов, и при этом никто не будет знать о том, что происходит, и не останется никаких бумажных следов. Кроме того, они могут, конечно же, помочь ей добиться номинации за счет оказания воздействия на колеблющихся избирателей во время первичных выборов. Воздействие на избирателей всегда было ключевым фактором для победы на выборах, и еще никогда не было такого мощного, эффективного и недорогого инструмента, как SEME.

Мы сегодня живем в мире, в котором небольшое количество высокотехнологичных компаний, иногда работающих вместе с правительством, не только наблюдают за большей частью наших действий, но также незаметно все больше контролируют то, что мы думаем, чувствуем и говорим. Технологии, которые сегодня нас окружают, это не безобидные игрушки — они сделали возможным незаметное и необнаруживаемое манипулирование населением целых стран. Подобного рода такие манипуляции не имеют прецедента в истории человечества, и в настоящее время они находятся за пределами существующих правил и законов. Новые скрытые увещеватели являются более крупными, более смелыми и более порочными, чем все то, что представлял себе Вэнс Паккард. Если мы предпочитаем игнорировать это, то мы делаем это на свой страх и риск.