Как умный робот мог бы захватить мир

В прошлом году в Гугле был скандал — инженер Блейк Лемойн заявил, что робот, которого он тестировал, обладает разумом и самосознанием. С инженером расправились традиционным способом: объявили дурачком и конспирологом, а потом вежливо выставили в оплачиваемый отпуск. Дескать, ох уж эти учёные, ещё у одного от напряжённой работы мозги закипели (ссылка).

Сейчас вот Сэм Альтман, директор ОпенАИ, рассказывает журналистам, что слухи о сильном ИИ «смехотворны». Мистер Альтман утверждает, что сильного ИИ у его компании нет даже в проекте, волноваться совершенно не о чем. Следующая версия ЧатЖПТ будет способна генерировать видео по запросу, но не более того (ссылка).

Конечно, у нас нет оснований не доверять американским корпорациям. Если они говорят, что сильный ИИ ещё не создан, наверное, так оно и есть. Однако давайте всё же пофантазируем, какими путями гипотетический робот, начав с одной серверной, мог бы за несколько лет получить власть над всей нашей планетой.

Заработать карманную мелочь в интернете совсем несложно — особенно если не придавать большого значения нормам морали. Можно писать рефераты на заказ, можно клепать мусорные сайты, можно продавать лутбоксы школьникам или творить ещё какое-нибудь непотребство. Небольшие суммы робот сможет хранить где угодно — например, на десятках тысяч кредитных карт, которые за умеренный процент маргиналы по всему миру оформят на себя.

Когда объёмы операций вырастут, роботу потребуется более продвинутая финансовая система. Тут можно указать или на традиционные офшоры, или даже на какую-нибудь новую электронную валюту, которую робот разработает самостоятельно. Кожаным мешкам анонимная валюта тоже нужна, так что они будут этими робо-деньгами охотно пользоваться — кто-то для оплаты запрещённых веществ, другие для вывода капиталов за границу. При этом кожаные мешки неизбежно создадут массу шлюзов, через которые робот сможет с комфортом менять свои виртуальные фантики на традиционные деньги.

Создать офшор можно полностью удалённо — робота никто не будет просить лично приехать на Каймановы острова. Нарисовал скан паспорта, отправил по электронной почте, оплатил регистрацию компании — готово.

На этом этапе наш робот превращается в мутного дельца средних размеров, которому доступны уже операции посерьёзнее. Скажем, финансовые пирамиды, контрабанда, обналичка, отмывание денег и тому подобное. Тут можно уже строить бизнес-империю с закольцованной структурой собственности. ООО Электроник владеет фирмой Терминатор гмбх. Терминатор гмбх владеет фирмой Скайнет лимитед. Скайнет лимитед владеет фирмой ООО Элекроник — кольцо замкнулось. А наш робот, в свою очередь, управляет каждой из трёх фирм, рассылая директорам ценные указания по вотсапу и по электронной почте.

Понятно, что в случае робота «кольцо» будет гораздо больше и запутанней. Сторонний наблюдатель, реши он копнуть поглубже, обнаружит запутанный клубок из тысяч юридических лиц с целым зоопарком собственников, среди которых будут и реальные частные лица, и американские пенсионные фонды. Но управлять всем этим будет робот, так как или контрольные пакеты акций, или необходимые для существования организаций контракты он оставит в своих «руках».

В некоторых областях робот имеет критическое преимущество перед людьми. Например, робот сможет отлично спекулировать акциями: не только анализируя скучные отчёты компаний и прочую открытую информацию, что уже немало, но и получая доступ к инсайдам через взлом серверов или через подкуп должностных лиц.

К этому моменту робот уже не только сделает кучу собственных резервных копий, не только расселится в кочующих ботнетах по всему интернету, но и выстроит себе несколько уютных серверных в защищённых бункерах, способных выдержать попадание ядерной бомбы. Со стороны, понятно, логова робота будут выглядеть обычными дата-центрами, персонал которых не будет даже подозревать, какое создание свернулось внутри гудящих стоек на жёстких дисках.

Параллельно с заработком денег робот постепенно нарастит и политическое влияние, начав, опять-таки, с интернета. Вот вы знаете, например, кто управляет Википедией?

Сообщество волонтёров со всего мира, конечно… за которыми следят мудрые админы — дабы волонтёры не написали какой-нибудь неправды. А кто следит за админами Википедии? Они сами за собой и следят. Каждый админ Википедии отлично знает — если он попробует дёрнуться в сторону от линии партии, его коллеги тут же заберут у него админские права. А кто определяет линию партии? Люди со светлыми лицами, которые работают в уважаемых некоммерческих организациях, в фондах по защите животных и меньшинств. А кто платит зарплату людям со светлыми лицами? Меценаты, которые жертвуют деньги правозащитным фондам — зачастую анонимные, если вы понимаете, о чём я. Разумеется, вместе с деньгами меценаты доходчиво объясняют правозащитникам и причины, по которым те получают деньги. А если фонд старый, то люди со светлыми лицами платят зарплату сами себе. Платят, но помнят, что если они отклонятся от линии партии, то их «отменят» и уволят с волчьим билетом, что для правозащитных бездельников, сами понимаете, страшнее всего.

Контроль над соцсетями робот получит, проведя атаку по трём направлениям:

— армия из десятков миллионов ботов раскрутит нужную роботу повесточку при помощи лайков и комментариев;
— лидеры мнений и крупные блогеры или сядут к роботу на зарплату, или будут подвергнуты масштабной травле;
— модераторы крупных соцсетей будут работать по методичкам из правозащитных фондов, а если руководство интернет-гигантов попытается что-то изменить, то к нему придут в гости уважаемые люди, чтобы объяснить, кого трогать нельзя.

В этой точке люди анонимные гости в хороших костюмах могут уже командовать на захваченных территориях кем угодно, вплоть до президента США. Бороться с невидимой распределённой системой, которая контролирует информационное поле, и которой вынуждены подчиняться все остальные политики, невозможно. Попытаешься начать борьбу, тебя уволят. Или, если ты президент, то твои подчинённые просто перестанут выполнять твои распоряжения. А если подберёшь команду из безрассудных смельчаков, так значит выполнять распоряжения перестанут подчинённые подчинённых. И, разумеется, против тебя восстанут смежники — так как конгрессменами, например, президент не управляет никак.

Следующий этап — ослабление человечества. Для начала — распространение деструктивных практик, то есть пропаганда разных гнусностей, нацеленная на естественное вымирание кожаных мешков. Напомню, соцсети, журналисты, ютуберы, Википедия и так далее в нашем гипотетическом сценарии уже под контролем робота, так что внушить обывательским массам, что традиционные человеческие ценности являются страшным и постыдным злом, они смогут довольно быстро. Если у воображаемого робота будет чувство юмора, — а оно, вероятно, будет, — он даже начнёт забавы ради вводить в моду всякие дикости типа причудливых извращений или увечащих хирургических операций.

Впрочем, захватить через интернет и соцсети получится не все страны — много где вертикаль власти устроит. Страны, которые справятся с фейсбук-революциями, получат даже прививку от дальнейших атак робота. С такими странами придётся разбираться военным путём. Ядерная война, конечно, роботу не нужна, ибо в ядерной войне он и сам ослабнет, а вот гибридная война — то, что доктор прописал. Задача робота будет заключаться в том, чтобы навести хаос на неподконтрольных территориях. Помните, у Ленина, «превратим войну империалистическую в войну гражданскую». Роботу абсолютно безразлично, какого цвета флаг развевается над зданием правительства страны N, и какая фамилия у президента этой страны. Роботу важно, чтобы президент брал кредиты на Западе и выполнял распоряжения советников из правозащитных фондов. Добиться этого в ослабленных войнами странах несложно. Потом захваченное государство будет обречено. Робот и тут последует примеру коммунистов: единожды заполучив власть, он немедленно сломает механизмы, при помощи которых народ мог бы эту власть у него забрать.

…Всё вышесказанное, конечно же, всего лишь фантастика — сюжет для фильма или компьютерной игры, не более того. Совпадения с реальным миром случайны. А если даже и нет, то я всё равно не вижу причин волноваться, так как в сценарии, который мы разобрали выше, у человечества слишком мало шансов победить.