С новой технологией чтения мыслей контроль над населением становится слишком легким

Все знают, что роман английского писателя Джорджа Оруэлла «1984» – антиутопия, изображающая тоталитарное общество будущего. Многие признаки такого общества просматриваются уже сегодня. Контроль над гражданами Океании (антиутопического тоталитарного государства) в интересах Большого Брата (правящей партийной элиты) осуществляется с помощью полиции мыслей, имеющей широкую агентурную сеть, которая подслушивает и подсматривает. Также с помощью технических средств: скрытых микрофонов и так называемых телекранов – больших мониторов, не только вещающих, но также работающих на прием, т. е. подслушивающих и подсматривающих.

Единственно, что не удавалось партии и полиции мыслей в полной мере, – читать мысли граждан. Впрочем, частично удавалось – агенты полиции и телекраны внимательно следили за некоторыми мелочами поведения людей – мимикой лица, жестами рук, тембром голоса и т. п. Какие-то едва различимые реакции в поведении могли свидетельствовать о том, что человек думает не так, как предписывает партия.

Например, во время так называемых двухминуток ненависти (они регулярно проводились на рабочих местах членов партии) человек мог недостаточно активно проявлять свою ненависть к внешним врагам Океании (а таковым поочередно были два других государства – Остазия и Евразия). Например, недостаточно громко кричать. Или даже сохранять молчание (что выглядело уж совсем вызывающе). Такие «неправильные» реакции человека в полиции и партии называли «лицепреступлением». Такого человека брали на заметку, он уже вычеркивался из списка «правоверных».

В многовековой христианской литературе очень часто обсуждался вопрос о том, может ли дьявол читать мысли человека. Дьявол может искушать человека, он может внушать через других людей человеку свои мысли, он может пугать человека, он может делать много других пакостей человеку. 

Но вот читать мысли человека, как говорят единодушно святые отцы, дьявол не может. Конечно, дьявол – прекрасный физиономист, по мимике человека дьявол может догадываться, о чем думает человек. Поэтому святые отцы учат сохранять бесстрастие, не «подставляться» дьяволу. При соблюдении необходимых правил человек для дьявола представляет собой что-то наподобие черного ящика. В начале прошлого века русский публицист и прозаик Александр Валентинович Амфитеатров (1862-1938) в книге «Дьявол в быту, легенде и в литературе Средних веков» (1911 г.) писал: «Расходятся мнения и о том: зная все тайны природы, знают ли демоны также тайны человеческой души? 

Могут ли они проникать в глубину совести, шпионить наши мысли и чувства? Некоторые отрицают это на том основании, что в таком случае человек оставался бы весь в их власти, совершенно беззащитным против их наущений и искушений. Поэтому демонам не дано видеть душу человека, и они только большие физиономисты: по внешним признакам угадывают мысль и волю, читают в уме и чувстве, что, собственно говоря, может делать и человек, но у дьявола в тысячи раз больше умения, опыта и навыка».

А вот Большой Брат ставил перед партией задачу научиться читать мысли своих подданных. То, что дьяволу не под силу, партия может и должна одолеть!

В то время, когда Оруэлл писал свой роман «1984», уже появлялись первые технические средства, которые позволяли с некоторой степенью вероятности выявлять, является ли человек «правоверным» или нет. Это были так называемые детекторы лжи, или полиграфы. Они могли фиксировать изменения кровяного давления, ритмов сердца, температуры кожи и других физиологических параметров человека в моменты, когда он начинал говорить ложь. Джордж Оруэлл прозорливо предвидел, что научно-технический прогресс (НТП) по многим направлениям будет постепенно затихать и умирать. Но из всего спектра направлений НТП два останутся и даже будут усиленно культивироваться. Эти два направления определяются двумя главным задачами партии: «У партии две цели: завоевать весь земной шар и навсегда уничтожить возможность независимой мысли. Поэтому она озабочена двумя проблемами. Первая – как вопреки желанию человека узнать, что он думает, и – как за несколько секунд, без предупреждения, убить несколько сот миллионов человек. Таковы суть предметы, которыми занимается оставшаяся наука».

Исходя из таких задач, которые партия ставит перед наукой, английский писатель дает портрет ученого «дивного нового мира»: «Сегодняшний ученый – это либо гибрид психолога и инквизитора, дотошно исследующий характер мимики, жестов, интонаций и испытывающий действие медикаментов, шоковых процедур, гипноза и пыток в целях извлечения правды из человека; либо это химик, физик, биолог, занятый исключительно такими отраслями своей науки, которые связаны с умерщвлением».

Итак, Джордж Оруэлл предвидел, что наука будет усиленно решать задачи по уничтожению независимой мысли. И более конкретно: она будет искать подходы к созданию совершенных «детекторов лжи», от которых не спрячется ни один неправоверный.

После Второй мировой войны в мире, как и предвидел Оруэлл, постоянно шли работы по совершенствованию детекторов лжи. Преследовалась цель повышения точности полиграфов. А также ставилась задача сделать сами исследования «дистанционными». Обычный детектор лжи предполагает, что «объекта» обвешивают разными датчиками (как, например, при проведении ЭКГ). А хотелось бы наблюдать за «объектом» на расстоянии, причем так, чтобы «объект» об этом не догадывался.

Так, в нулевые годы появились тепловизоры, которые на расстоянии фиксируют изменения температуры «объекта» в районе глаз в случае, когда «объект» начинает врать и волноваться. Даже если он может в совершенстве владеть мимикой своего лица, то температуру некоторых точек лица человек контролировать не может.

В 2018 году СМИ сообщили, что ученые из Массачусетского технологического института (MIT) разработали прибор AlterEgo, способный считывать мысли людей. Гаджет, похожий на телефонную гарнитуру, распознает слова, которые человек произносит про себя. Работает прибор на базе мышечно-челюстного интерфейса, считывая нейромышечные сигналы. Человек мысленно произносит слова, а устройство их распознает и отправляет радиосигнал на другие устройства.

Если раньше исследователи ходили вокруг да около человеческого мозга, изучая исходящие от мозга рефлексы в сердце, дыхании, крови, коже, мышцах и т. д., то теперь они уже подобрались к самому мозгу. Уже давно медики используют магнитно-резонансную томографию (МРТ) мозга для диагностики разных заболеваний и отклонений. Но вот недавно они начали исследовать активность головного мозга и его отделов с различными вариантами поведения, включая поведенческие патологии. К исследованию был подключен искусственный интеллект, который позволил обрабатывать и анализировать первичные данные МРТ и доводить информацию до формы, понятной не только медикам, но и другим потенциальным пользователям (скажем, следователям). Появилось новое направление исследований, получившее название neurobotics («нейроробототехника»), а также brain-computer-interface – BCI («нейрокомпьютерного интерфейса»).

Недавно на глаза мне попалась статья под названием «MRI scans and AI technology really could read what we’re thinking. The implications are terrifying» («МРТ-сканирование и технология искусственного интеллекта действительно могут читать то, что мы думаем. Последствия ужасающие»). В ней говорится о научном прорыве американских исследователей из Техасского университета в Остине, который позволяет «читать» мысли человека как непрерывный поток текста, основываясь на том, что человек слушал, представлял (думал) или смотрел. Участников исследования в Техасе попросили слушать аудиокниги в течение 16 часов, находясь внутри МРТ-сканера. В то же время компьютер «научился» связывать их мозговую активность с МРТ и с тем, что они слушали. После обучения семантический декодер мог генерировать текст из чьих-то мыслей, когда они слушали новую историю или представляли свою собственную историю.

Результаты исследования представляют собой значительный прорыв в области интерфейсов мозг-машина. До этого были подобные эксперименты, но они базировались на использовании инвазивных медицинских имплантатов (т. е. вживляемых в мозг датчиков). По сути, требовалась очень серьезная хирургическая операция. А в Техасе использованы неинвазивные устройства, и это серьезный, почти революционный шаг в разработке интерфейсов мозг-машина. Конечно, время эксперимента в 16 часов потребовалось для того, чтобы машину научить азам перевода данных МРТ-сканера на понятный современному человеку язык. В дальнейшем время экспериментов, как отмечает автор статьи Джошуа Крук, будет сокращаться. А после запуска системы в эксплуатацию для «проверки» «объекта» может потребоваться всего несколько минут.

Автора упомянутой статьи данный революционный прорыв в технологиях чтения мыслей человека отнюдь не радует. Он небезосновательно опасается, что новые технологии могут использоваться для уничтожения остатков свободы человека: «Это вызывает серьезную озабоченность по поводу неприкосновенности частной жизни, свободы мысли и даже свободы беспрепятственно мечтать. Наши законы не приспособлены для борьбы с широко распространенным коммерческим использованием технологии чтения мыслей — закон о свободе слова не распространяется на защиту наших мыслей».

Джошуа Крук смотрит еще дальше: если учёные научатся быстро, точно и без использования инвазивных методов читать мысли людей, то, наверное, следующая задача, которую они постараются решить, – внедрение в мозг человека «правильных» мыслей. Автор статьи, кстати, обращает внимание на то, что американское законодательство более или менее успешно защищает права американцев на сохранение конфиденциальности личных данных. Но удивительным образом в состав личных данных не входят мысли человека («Закон о конфиденциальности данных в настоящее время не рассматривает мысль как форму данных»). А мысли, по мнению Джошуа Крука, надо особенно надежно защищать от посягательств тех, кто подобно Большому Брату из романа «1984» хочет всех американцев сделать «правоверными». «Переход от чтения мыслей к их внедрению может занять много времени, но и то и другое требует упреждающего регулирования и надзора», – отмечает автор статьи.Джошуа Крук в своей статье вспоминает Джорджа Оруэлла и его роман «1984». Интересна концовка статьи: «Джордж Оруэлл убедительно писал об опасностях «мыслепреступления», когда государство объявляет преступлением просто мятежные мысли об авторитарном режиме. Однако сюжет «1984» был основан на том, что государственные чиновники читали язык тела, дневники или другие внешние признаки того, о чем кто-то думал. С новой технологией чтения мыслей роман Оруэлла действительно стал бы очень коротким — возможно, даже коротким, как одно предложение: "Уинстон Смит [главный герой романа. – В.К.] подумал про себя: "Долой Большого Брата", после чего был арестован и казнен"».