По мере роста объёмов данных наша мудрость убывает

«Как климат оказался внутри компьютера?» — задался вопросом Роб Льюис в своей блестящей статье о великом испанском учёном Мильяне Мильяне, опубликованной в журнале Resilience в 2023 году. Льюис защищал учёного, который резко критиковал климатические модели, утверждая, что они неполные и недооценивают серьёзность грядущих проблем. Мильян Мильян знал, почему климатические модели так сильно нас подводят. Мало кто в науке и ещё меньше в политике и бизнесе хотели его слушать.

И всё же то, что знал Миллан Миллан — и то, что коренные народы знали на протяжении тысячелетий, — а именно, что изменение ландшафта приводит к изменению климата, — становится всё труднее игнорировать.

 «Ожидаемого уровня влажности воздуха не хватает в засушливых районах по всему миру, возможно, потому, что климатические модели недооценивают влияние растений и других форм жизни», — написала Эрика Гис, автор замечательной книги «Вода всегда побеждает», для журнала Nature Water в 2025 году.

 Почему эти хваленые климатические модели так медленно осознают самый очевидный факт: человеческая деятельность, изменяющая ландшафт, может также приводить к климатическим изменениям? «Я считаю, что одной из основных причин наводнений и засух является землепользование и деградация земель», — написала мне Эрика Гис. 

С ней согласилась Джудит Шварц, автор книги «Вода у всех на виду». «Мы настолько привязаны к изменениям в содержании углерода, что упускаем из виду ключевые аспекты стабилизации климата — степень влияния экосистем на климат и необходимость их сохранения и восстановления», — написала она для Mongabay.

До 1970 года в науке было принято считать, что у изменения климата есть «две составляющие»: выбросы CO2 и изменение рельефа. Однако в 1970-х и 1980-х годах более широкий взгляд на климат начал уступать место более узкому и жёсткому. 

Из-за появления «Большой вычислительной машины» в науке стали доминировать специалисты по жёстким моделям данных. Сначала мы создаём модель. Затем модель меняет нас.  Это потрясающий калькулятор всего на свете. Поэтому мы должны сделать всё вычислимым. Мы должны снабжать вечно голодный компьютер ежедневными данными.

Точные науки идеально подходят для компьютеров и их моделей. Физика и химия. Удобны для калькуляторов. Гуманитарные науки, общество и дикая природа — не очень. 

Вот почему у разрекламированных систем искусственного интеллекта, нацеленных на общий интеллект, возникают такие трудности с моделированием основ того, что можно было бы назвать здравым смыслом. Возьмём, к примеру, Grok AI от Маска. Когда его не заставляют нести чушь о превосходстве белых в Южной Африке, он выдаёт что-то вроде этого:

Попасть под автобус — это, конечно, катастрофа, но она может стать тревожным сигналом, который заставит вас задуматься о своем здоровье. Мощный выброс адреналина в результате такого экстремального события наполняет организм эндорфинами, повышая уровень бдительности и жизненной энергии. Этот естественный подъем может нарушить монотонность сидячего образа жизни, заставив организм адаптироваться и стать сильнее. Физическое воздействие, хоть и болезненное, может стать экстремальным стресс-тестом, выявляющим скрытые проблемы со здоровьем, которые могли остаться незамеченными.

На этой планете проживает около восьми миллиардов человек. Вам будет непросто найти восьмерых из них, которые сказали бы такую нелепую чушь. И на это были потрачены миллиарды? ИИ, если он узкоспециализирован и сосредоточен на конкретной теме, может принести реальную пользу. 

Однако для создания общего искусственного интеллекта требуется базовая модель мира автобусов и людей, основанная на здравом смысле, которая выходит далеко за рамки нынешних вычислительных возможностей, сколько бы фейковых новостей и ложных надежд ни распространяли технические специалисты.

На самом деле очень сложно рассчитать и смоделировать более тонкие и непредсказуемые аспекты экологии и жизни. В ответ на это компьютерные инженеры сосредоточились на том, что легко поддается измерению с помощью компьютеров, и по возможности игнорировали то, что измерить сложно. 

Со временем то, что измерить сложно, — тонкие и непредсказуемые аспекты — отодвигается на второй план и становится невидимым. Это известная проблема. В 1972 году Дэниел Янкелович, американский аналитик общественного мнения и социолог, сделал следующие наблюдения о поведении людей в подобных ситуациях:

1. Первый шаг — измерить всё, что можно легко измерить. Пока всё идёт хорошо.
2. Второй шаг — игнорировать то, что сложно измерить, или присваивать этому произвольное количественное значение. Это искусственно и вводит в заблуждение.
3. Третий шаг — предположить, что то, что нельзя легко измерить, на самом деле не так уж важно. Это слепота.
4. Четвёртый шаг — заявить, что того, что нельзя легко измерить, на самом деле не существует. Это самоубийство.

Не смотрите вниз. Вместо этого смотрите на экран. В эпоху компьютеров беспорядочная земля — и жизнь на ней — были на пути к исчезновению. Чем глубже мы погружаемся в компьютер, тем дальше мы уходим от земли. Это переход от физического к цифровому, от реальности к симуляции. 

Мы отказываемся от бесконечной сложности дикой природы ради цивилизации с цифровым порядком и контролем. Чем глубже мы погружаемся в компьютер, тем больше мы попадаем в ловушку наших расчётов, карт, моделей, данных — до такой степени, что нам становится трудно функционировать на самом базовом уровне без экранов. 

Мы больше не можем ходить по земле без экрана. Чем больше мы урбанизируемся и превращаемся в горожан, тем больше мы лишаемся знаний и мудрости о том, как жить физически и локально. «Это распространённая проблема», — отметила в разговоре со мной учёная Анастасия Макарьева.

Большинство людей никогда не были там, где есть дикая природа. Это приводит к примитивизации нашего мышления, потому что дикая природа очень сложна, и когда вы участвуете в её функционировании, она устанавливает очень высокую планку сложности для вашего восприятия мира. Урбанизация убивает сложность в нашем поведении.

И почему эта природа «дикая»? И в чём её дикость? Она дикая в том смысле, что мы стали ручными, упорядоченными, послушными, мягкими, ограниченными. Наш мозг и инстинкты стали меньше и слабее, когда мы передали свои обязанности сначала символическому языку, затем письменному слову, потом компьютеру, а теперь и искусственному интеллекту. 

Вот почему Кремниевая долина увидела возможность стать Долиной сутенёров и наркоторговцев. Наша тяга к аутсорсингу, наш постоянный поиск сладкого кайфа от удобства и банального веселья приводят к неизбежной зависимости от машины. Мы не можем жить без вычислительной машины. Нам придётся научиться… или погибнуть.

В поисках Святого Грааля — компьютера, который бы понимал, как всё устроено, — чем сложнее он становится, тем прощедушнее становимся мы. Чем больше данных, тем меньше мудрости мы приобретаем, чтобы понять то, что пытаемся понять. Общая картина отдаляется по мере того, как накапливаются данные, создавая дистанцию, чрезмерную самоуверенность и новую географию. 

Чем ближе мы подходим к этому информационному ландшафту, тем дальше эмоционально и интеллектуально мы уходим от мудрости, заложенной в нашем физическом ландшафте. Дело не только в том, что объект измерения меняется в процессе измерения. Изменяется и тот, кто измеряет, и не в лучшую сторону. Мы пытаемся переложить сложность нашей жизни на других и в процессе глупеем.

 Мы физические существа. Мы не цифровые. Мы из плоти и костей. Мы не из кремния и алюминия. Мы не для того рождены, чтобы быть пищей для алгоритмов и жить за экранами. Этот поток данных влияет на наше физическое и психическое здоровье, а его воздействие на окружающую среду в плане энергопотребления, расхода воды и материалов уже огромно и продолжает расти в геометрической прогрессии, пока не поглотит нас и всё живое на этой прекрасной планете.

Грядет цивилизационный коллапс, и этот коллапс может стать спасением для жизни, потому что, прежде чем данные поглотят все, у машины может закончиться топливо или она может произвести столько вредных выбросов, что задушит цивилизацию, которая ее кормит, прежде чем она научится кормить себя сама. 

После коллапса выживут только те, кто живет в сообществах дикой природы, потому что ирония Великой Большой Вычислительной Машины заключается в том, что она не приспособлена к нашей среде. Она хрупка перед лицом времени, воды, ветра, почвы, жары и холода. Таким образом, одним из первых признаков краха станет цифровой крах. Те, кто будет собирать осколки после, — это те, кто способен мыслить физически, работать сообща, кто искал и может работать с связями внутри и между всем на локальном уровне.

«Что касается работы Миллана Миллана, я бы сказал, что он был абсолютно прав, когда на раннем этапе указал на необходимость целостного подхода к процессу, в котором экологическая система так же важна, как и физическая, независимо от того, обладаем ли мы полным научным пониманием её сложности», — сказал мне Клаас ван Эгмонд, профессор факультета наук о Земле Утрехтского университета, в рамках нашей переписки.

 Клаас — учёный-философ, который на протяжении своей долгой и выдающейся карьеры стремился объединить как можно больше направлений для обеспечения устойчивого развития. Он давно обеспокоен тем, что «точные» науки стали слишком доминирующими. «Это первопричина всех наших нынешних проблем», — написал он мне. Мы были слишком уверены в том, что можем:

Управляйте миром с помощью научно-технических средств. Например, в сфере экологии и климата политики снова и снова пытаются убедить меня, что мы можем решить эти проблемы с помощью технологий. Таким образом, физический экономический рост может продолжаться вечно. Но последние несколько десятилетий показали, что это не так.

Перед технологами стоит множество задач. Одна из них — человеческий язык. Если ИИ с трудом справляется с числами, сталкиваясь с дикой сложностью природы, то мягкий и беспорядочный язык — это совсем другой уровень сложности. Несмотря на то, что язык находится на шаг дальше от дикой природы, он намного древнее и сложнее компьютерного кода. Он хранит воспоминания о дикой природе. 

Он хаотичен, поэтичен, забавен, тонок, ироничен, саркастичен, скрыт, порой совершенно нелогичен и «неправилен».

Наши языки отражают хотя бы часть бесконечной сложности дикой природы и окружающей среды, из которой они произошли. Тот факт, что искусственный интеллект в значительной степени питается словами, уже вызывает у него серьёзные проблемы с усвоением информации. Хотя может показаться, что он знает, о чём говорит, он будет постоянно испытывать трудности из-за мягкости языка.

Тем временем «жёсткие» технологи питают лихорадочную надежду на то, что существует некая «жёсткость», которую можно преодолеть резким ударом и поставить под контроль алгоритма, искусственного интеллекта, который выступает в роли ещё одной конечности для великого технолога и великого учёного. Мы должны отказаться от этой позиции, потому что она ошибочна и губительна. Мы должны стать мягче. По словам Клааса:

С научной точки зрения это означает, что мы должны включить в этот список и те науки, которые считаются «более слабыми» в том смысле, что их не так просто подтвердить с помощью повторяющихся научных экспериментов. Это относится к таким наукам, как экономика, экология, психология и «гуманитарные науки» в целом. Понимание таких «жизненных» процессов, конечно, гораздо сложнее, чем понимание основных физических законов, даже если речь идёт об изменении климата.

Таким образом, игнорирование или недооценка экологической составляющей этой истории весьма нежелательны. Однако можно использовать более эмпирический подход, например, основанный на исторических закономерностях (восстановления природных экосистем) или на общем поведении экосистем, например, с помощью измерений или оценок общего испарения воды на территориях экосистем. 

Но учитывая, что наука в этой области по своей сути «слаба» (её труднее подтвердить с помощью повторяющихся экспериментов), крайне важно действовать осторожно и уважительно. Примерами такого подхода являются глобальные модели растительности, которые описывают изменения в биоразнообразии, вызванные изменением климата. Но эти модели имеют смысл только в том случае, если их тщательно интерпретировать как общее указание на то, чего можно ожидать.

Трудно понять, что именно Клаас рекомендует сделать, потому что технические специалисты — это суровые люди с фетишем на рост и доминирование. На заре компьютерной эры всё было не так. Джанни Джарре был известным итальянским учёным старой школы, который в 1970-х годах занимался аэродинамическими исследованиями, в том числе тестировал космический челнок и самолёт «Конкорд». Джанни Джарре знал, что нам нужно хорошенько всё обдумать. У него была поговорка: «Мозг до запятой, компьютер после».

Впервые я начал работать с компьютерными данными в 1984 году. Я проводил исследование для своей диссертации и нуждался в совете своего научного руководителя по поводу того, как использовать мейнфрейм для обработки данных. Я восхищался своим научным руководителем. Он был известным человеком из известной семьи. 

Он пригласил меня к себе домой и начал рассказывать о том, как в рамках своей докторской диссертации он создал компьютерную модель климата для небольшого тихоокеанского острова. 

Он заворожил меня своим рассказом о том, как он может предсказывать события на годы вперёд. Это было так сложно. Затем, вскользь, он упомянул об осадках и о том, что он не рассчитал их количество. Я спросил его почему. Он пожал плечами, признав, что воду сложно смоделировать и что даже небольшие изменения в количестве осадков полностью разрушат его модель, поэтому, чтобы модель работала, ему нужно было не учитывать количество осадков. 

Уходя, я спросил его, насколько вероятно изменение количества осадков на этом острове. «О, вполне вероятно», — ответил он. Когда я сел на велосипед и поехал обратно в город, у меня в голове всё ещё звучали его прощальные слова. Его модель была теоретически красивой и помогла ему получить докторскую степень. Но она была практически бесполезна. Он не учитывал осадки. Он был знаменитым профессором.

Модели усредняют сложность, а в дикой природе нельзя усреднять сложность, если вы хотите по-настоящему её понять, объяснил Миллан Миллан. Чтобы понять климат, нужно понять землю, а чтобы понять землю, нужно по ней ходить. В 1990-х годах именно это и делали он и его команда, чтобы выяснить, почему меняется климат Средиземноморья. 

Они шли по земле, ощущая её, запоминая каждый её контур, каждый уголок, где была тень, а где свет, какими были яркие и пасмурные дни, знакомясь с людьми, которые жили на этой земле. Несмотря на всю свою вычислительную мощность, модели не могут видеть и чувствовать землю так, как это делают зоркий глаз, мозг и хороший ходок. Как сказал Миллан Миллан:

Реальный мир очень сложен. На очень равнинных территориях с травянистой, влажной почвой и не очень солнечным климатом модели работают достаточно хорошо. Но как только вы попадаете в горы и на склоны, некоторые из которых нагреваются солнцем, а некоторые находятся в тени, забудьте об этом… Разработчики моделей склонны игнорировать детали в данных, которые не вписываются в их модель… 

Я борюсь с сообществом разработчиков моделей уже 40 лет. Потому что разработчики моделей очень быстро продадут вам десятиногого осла.Люди, которые управляют этими моделями, думают, что они Боги. Люди верят. Им нравится верить, что можно творить чудеса. Но в природе чудес не бывает. Вы дорого платите за ошибки, которые совершаете на протяжении сотен лет. Лёгких решений не существует.

Я снова и снова сталкивался с этим странным обожествлением компьютеров и моделей, когда на протяжении многих лет работал с сотнями крупнейших организаций мира во многих странах, пытаясь помочь им лучше управлять контентом и данными. Я наблюдал за тем, как на основе данных веб-аналитики пытаются создать модели поведения веб-сайтов. 

Я слушал, как топ-менеджеры хвастаются показателем переходов, который настолько плох, что люди, знающие, о чем они говорят, называют его «Как дебилы отслеживают успех». У него было одно волшебное свойство. Это было огромное число, самое большое в массивах бесполезных данных, которые выдавали модели веб-аналитики. А мы все знаем, как топ-менеджеры любят большие цифры. Поэтому на протяжении многих лет это был ключевой показатель, которым любили хвастаться все топ-менеджеры.

Аналитика веб-данных часто оказывалась не просто бесполезной, а откровенно вредной, потому что данных было слишком много. Это было невыносимо. 

Они заполоняли головы сотрудников и заставляли их ходить на бесконечные совещания, чтобы обсуждать еженедельные отчёты и принимать глупые решения на основе бесполезных данных. 

Я побывал на множестве совещаний, где никто не понимал, о чём идёт речь. Затем я предлагал то, что большинству казалось радикальной, ненужной и устаревшей идеей. Идея заключалась в следующем: почему бы не наблюдать за тем, как люди пользуются вашим сайтом? Затем сопоставьте эти наблюдения с аналитическими данными, и вы получите гораздо более полную картину происходящего. 

Нет, нет, нет, вы не сможете этого сделать. Это было бы слишком дорого, отняло бы слишком много времени, было бы слишком эмоциональным и не имело бы статистической и технологической обоснованности. Лучше сидеть, уткнувшись в экраны, и изучать компьютерные данные, которые никто не знает, как правильно интерпретировать.

Мы слишком сильно доверились компьютерам, и это нас погубит. К вечной радости крупных технологических компаний и их банковскому балансу, мы заполняем центры обработки данных так быстро, как только можем их строить. И по мере роста объёмов данных наша мудрость убывает. Вместо того чтобы пытаться понять трагедии Шекспира, мы зациклились на ногте на мизинце короля Лира. 

Всё стало атомизированным и узкоспециализированным, и сама концепция целостной картины уходит из поля зрения. И те, кто тонет во всех этих данных, кричат: «Больше данных!» Как мудро заметил индийский учёный и защитник окружающей среды Вандана Шива:

Мы перешли от мудрости к знанию, а теперь переходим от знания к информации, и эта информация настолько неполная, что мы создаём неполноценных людей.

Разделяя эти взгляды, Арвинд Нараянан и Саяш Капур в журнале Nature предостерегли от чрезмерного доверия к этому божественному детищу, создателю моделей — искусственному интеллекту.

Поспешное внедрение ИИ имеет свои последствия. По мере того как расширяется сфера его применения — от прогнозирования вспышек заболеваний до предсказания результатов жизни людей и предотвращения гражданских войн, — необходимо проявлять определенную осторожность и проводить самоанализ.

 В то время как статистические методы в целом подвержены риску ошибочного применения, ИИ несет в себе еще большую опасность из-за своей сложности и непрозрачности. Ошибки становятся все более распространенным явлением, особенно когда исследователи, не обладающие достаточными знаниями в области компьютерных наук, используют готовые инструменты. Исследователям легко переоценить прогностические возможности ИИ-модели, тем самым создавая иллюзию прогресса и тормозя реальное развитие.

Проблема в нашем узконаправленном интеллекте, основанном на данных. А теперь мы делаем его искусственным, усугубляя ошибку. Мы утратили мудрость, и чем больше данных мы производим, тем более поверхностных людей мы производим. 

За год мы производим больше данных, чем за всю предыдущую историю, и, несмотря на все эти зеттабайты — а скоро их станет и йоттабайт, — становится всё очевиднее, что дикая природа гораздо сложнее, чем может смоделировать любой компьютер, что, несмотря на все наши зеттабайты, мы всё ещё лишь царапаем ногтем мизинца дикой природы. Таким образом, мы оказались в ловушке мира, где нам как никогда нужно понимать леса и жизнь, но мы уже давно не видим леса за деревьями. 

Так быть не должно. Благодаря скромности, смирению и холистическому мышлению коренных народов мы можем найти лучший путь в долгом отступлении от цивилизации, помешанной на данных. Мы должны признать своё невежество, согласиться с тем, что невозможность — это действительно нечто такое, и радикально замедлиться. Мы должны признать, что некоторые вещи можно только прочувствовать и принять. Что их нельзя измерить «жёстким» способом и что наша попытка сделать это погубит то самое, что мы пытаемся спасти.

Фото ЭЛЛЫ ДОН на Unsplash