Российские эксперты: что может истребить человечество в XXI веке

Эксперт фестиваля науки, технологий и искусства Kaspersky Geek Picniс, директор департамента взаимодействия науки, технологий и общества Московского технологического института и основатель Future Foundation Петр Левич — о том, какие опасности поджидают человечество с развитием технологий и есть ли способ их избежать

«Серая слизь», биохакеры и другие вызовы человечеству

По мнению экспертов, в частности, исследователя глобальных рисков Мартина Риза, вероятность человечества пережить XXI век равна примерно 50 процентам. Причины столь низкой вероятности вовсе не в опасности падения астероида или нападения инопланетян — напротив, это наши собственные возможности уничтожить себя.

Раньше основной угрозой для глобальной цивилизации было ядерное оружие. Однако доступ к нему был у ограниченного числа стран, маргинальные группы с большим трудом смогли бы получить такую технологию, ведь на это требуются годы научно-исследовательских и опытно-конструкторских работ и неподъемные для них суммы денег. Такая ситуация давала небольшую надежду на защищенность от ядерного оружия, ведь все мы понимаем, чем меньше заинтересованных сторон, тем больше вероятность договориться и не допустить военный конфликт.

Это  было вчера. А уже сегодня новые технологии, например, редактирование генома, позволяют создать генно-модифицированный вирус, невосприимчивый к антибиотикам, в лаборатории среднего университета за относительно небольшую сумму денег. Это в разы увеличивает количество субъектов, которые могут обладать таким оружием: теперь опасные технологии могут позволить себе не только террористические организации, но и фанатики-одиночки — при наличии нужных знаний, которые можно приобрести в любом современном университете на курсе генетики. Набор для редактирования генома комнатных растений сегодня стоит около $100. Миллионы людей с разными намерениями получили доступ к технологиям с разрушительным потенциалом.

Генно-модифицированные вирусы — лишь один из примеров трудноконтролируемых видов оружия на основе новых технологий. Существуют концепции так называемой «серой слизи» — нанороботов, вышедших из-под контроля и перерабатывающих все на своем пути в таких же нанороботов, что приведет к гибели всего живого на планете. Или, например, «зеленой слизи» — бактерий, действующих по тому же принципу. Эти концепции показывают, что катастрофа планетарного масштаба может произойти не только по злому умыслу, но и по банальной неосторожности.

Уровень развития цивилизации измеряется не в техническом прогрессе, а в гуманитарном — в отношении к правам человека и его жизни, в уровне терпимости к иному и непонятному

Конечно, не только новые технологии создают глобальные риски. Изменение климата, загрязнение биосферы, исчерпание ресурсов — это результаты не новых технологий, а, казалось бы, старых. На самом деле, и техногенные опасности, и экологические проблемы — результат не самих технологий, а паттернов поведения общества. Логика конкуренции — как экономической, так и геополитической — вот причина увеличения рисков. Технологии же — как старые, так и новые — этически нейтральны до того, как попадут в человеческие руки. Пока не будет изобретен автономный искусственный интеллект (ИИ), человек — единственное существо, обладающее целеполаганием. Ни одно приложение мессенджера не отправило свой ключ шифрования спецслужбам по собственному желанию. Ни одна молекула химического оружия не имела собственного желания нас уничтожить. Лишь целеполагающий человек может использовать технологии во благо или во вред.

На любом технологическом пакете можно построить как свободное общество, так и суровый тоталитаризм. Я сторонник позиции, что уровень развития цивилизации измеряется не в техническом прогрессе, а в гуманитарном — в отношении к правам человека, к его жизни, в уровне терпимости к иному и непонятному. По-видимому, уровню технологического развития цивилизации соответствует некоторый уровень ее гуманитарного развития, и в случае нашей цивилизации первое сильно обгоняет второе.

Мир будущего — как по причине техногенных опасностей, так и военных, и экологических — пространство достаточно неустойчивое, то есть любое движение в сторону уводит систему еще дальше от положения равновесия. Этот мир требует от нас гораздо большей способности договариваться и кооперироваться. Показателен пример «мусорного пятна» в Тихом океане: эту проблему, кажется, возможно решить технически, но она не решена из-за того, что страны не могут договориться о разделении ответственности и долях финансирования проекта.

Три причины для эволюции общественных институтов

Проблема в том, что существующие институты, например ООН, пытаются снижать риски новых технологий старыми методами, в то время как логика действий «сверху вниз» давно устарела. В частности, Организация Объединенных Наций создавалась, в первую очередь, для обеспечения мирного сосуществования человечества после Второй мировой войны и недопущения третьей — и с этой задачей, казалось бы, справилась. Но мир в середине ХХ века и сейчас сильно различается. Управляемая система — наша цивилизация — стала гораздо более сложной системой. Есть несколько факторов, которые привели к этому.

На смену старым общественным институтам приходят горизонтальные сообщества, способные к адаптации и постоянной самопересборке

В первую очередь, критически выросло количество элементов этой управляемой системы. Речь идет о деколонизации, распаде биполярного мира, появлении новых неуправляемых групп: хакеров и биохакеров, террористических, маргинальных религиозных организаций. Добавьте сюда новых глобальных игроков — транснациональные корпорации — и непредсказуемые, стихийно возникающие и так же стихийно распадающиеся — рабочие группы тех же хакеров и биохакеров, а также инноваторов вообще, и получите систему с неопределяемым количеством элементов. Эта система и есть современный мир.

Второй фактор — критический рост глобализации: транспортной (появление массовой гражданской авиации, контейнерных грузоперевозок и пр.) и информационной (расцвет телевидения, появление интернета, новых медиа и, наконец, социальных сетей). В начале 2016 года компания Facebook опубликовала исследование количества «рукопожатий» (термин из известной «теории пяти рукопожатий»). Система построила график для 1,59 миллиардов человек — пользователей социальной сети. Средняя степень разделения (именно она понимается под количеством «рукопожатий») оказалось равной 3,57. Еще в 2011 году по 721 миллиону пользователей Facebook этот параметр был равен 3,74, то есть даже за последние 5 лет социальная связность человечества выросла на наглядную величину.

Третий фактор — это критическое возрастание скорости изменения мира, степени динамичности системы. Это отчасти связано с ростом глобализации, но здесь речь идет скорее об объемах и скорости распространения ресурсов и информации.

Таким образом, старая логика создания общественных институтов для решения глобальных проблем больше не работает. На смену ей приходят горизонтальные сообщества, способные к адаптации и постоянной самопересборке.