Сверхинтеллект – великий и ужасный...

«…компьютерные технологии развиваются со скоростью, которая буквально пугает. Я знаю пожилого человека, считающего авторитетным мнение, что чипы узурпируют функции человека до такой степени, что будут не только водить тракторы, но и оплодотворять женщин».
Ричард Докинз, «Расширенный генотип: длинная рука гена».

В какой момент сложноорганическое вещество перестаёт быть только лишь молекулой химического элемента и становится биологическим объектом? Сейчас в окружающей среде практически нет промежуточных элементов и соединений, которые доминировали в длительный период формирования биосферы Земли – они вытеснены гораздо более сложными формами жизни, произошла плавная смена соотношений химических сред, тем не менее базовый принцип (формирование любого организма из одной клетки) подсказывает нам, что для возникновения глобального искусственного сверхинтеллекта не обязательно иметь некий грандиозный суперкомпьютерный кластер, а достаточно информационной ячейки, способной формировать иерархические интеллектуальные системы. Изначально необходимы многочисленные степени свободы системы, некий начальных хаос, в котором небольшой активный логический алгоритм способен производить накопление и структурирование, починку и оптимизацию данных, хранящихся в условной ячейке (клетке), границами которой могут являться маркеры распознавания и классификации. Земная жизнь устроена так, что наиболее мелкие существа оказываются максимально «живучими», уничтожение триллионов вирусов не скажется на общей картине жизни, биомасса бактерий на порядок превосходит биомассу крупных организмов (слонов, гиппопотамов, людей). Современная архитектура вычислительных систем устроена противоположным образом – потеря важного нолика или единички может обрушить всю систему, а резервирование пока не анализирует полезность накопленного опыта, тупо восстанавливая архивированную копию, в которой и может быть критическая ошибка. Что касается ошибок – здесь вопрос, что считать ошибкой, напоминает анекдотичную ситуацию из блокбастера: «Для кого террорист, а для кого – борец за независимость своего народа!». Внося в реестр ошибок ситуации, невыгодные пользователям, но полезные для производителей, разработчики операционных систем провоцируют глобальное обрушение в будущем, в котором потерявшие навыки администрирования люди станут обслуживающим персоналом для систем ИИ.
Во время написания книги, цитату из которой я привёл в эпиграфе, Докинз пользовался персоналкой, которая имела 128 кБт оперативной памяти, и тезис о том, что женщин будут оплодотворять чипы для него выглядел смехотворно, поэтому он не называет этого «пожилого человека», которого лет через 50 могли бы назвать пророком. В современных условиях генноинженерных технологий, когда тысячи интернетчиц сидят с «игрушками» перед вебкамерами, смешно становится именно из-за непонимания неизбежности появления гибридного вида, превосходящего гомосапиенс благодаря искусственной редакции генома. Инертность бюрократической системы и официальные юридические запреты «неолуддитов» и религиозных фанатиков никогда не останавливали тех, кто понимал разумность применения хай-энд технологий.

Проведу несколько аналогий, относящихся к возможной перспективе появления информационных ячеек, обладающих некоторой автономностью и способных самостоятельно структурировать и анализировать сигнальные потоки, выделяя информацию и формируя собственный опыт. Первая аналогия возникает между техногенным «информационным океаном» (с размером базовых ячеек, выбираемых при начальном форматировании) и первичным бульоном, который как предполагается дал начало самоорганизующейся биологической жизни. Процесс формирования границ раздела коацерватных капель изначально базировался на естественном физическом явлении – слабых водородных связях (не ковалентных), что впоследствии привело к появлению одноклеточных. Вероятностный характер квантово-динамических, химических и энтропийных процессов определил весьма длительный период образования из начального хаоса коацерватов первых сложноорганических кислот, проявивших стабильные свойства и способных обмениваться энергией и химическими элементами с окружающей средой, накапливать внутри границы раздела сред с разной удельной концентрацией вещество путём слияния мелких капель и делиться сначала в результате механического разрыва коацервата из-за внешних воздействий – волн, колебаний температуры (как известно сильно влияющей на поверхностное натяжение) и прочих факторов. В результате последующего «запоминания» удачных сочетаний молекулярных комбинаций, стал проявляться эффект отбора жизнестойких и вытеснения (подавления) внешнего хаоса. Итак, для самопроизвольного возникновения ИИ необходима «правильная» аппаратная платформа так же, как подходящий для биологического процесса температурный и химический состав «бульона» – схемотехника, допускающая мягкую аппаратную поддержку границ раздела ячеек, внутри которых начальных хаос благодаря флуктуациям мог бы сформировать первую самостоятельно мыслящую ячейку, способную распознавать информацию среди сигнального шума. Каким окажется размер этой ячейки, насколько сложным в сравнении с линуксом или виндовс? Думаю пока сообщество не перейдёт на новый формат данных (отказавшись от NTFS и ей подобных) и принципиально иную компьютерную архитектуру (отказавшись от принципа фон Неймана) сложно ожидать возникновения ИИ «снизу», естественным образом. Однако почему ИИ не возникнет сразу на всём информационном пространстве – эдакий мыслящий информационный океан, продукт команды компьютерных гениев? Инкубаторные условия в отличие от естественной среды можно создать специально, не допуская дробления и «размножения», получив монолитный сверхинтеллект, мыслящий информационный колосс! Но если честно – я не уверен, что кафедры информационных технологий, позиционирующие себя как разработчики ИИ, занимаются созданием ИИ, а не противодействием его созданию под давлением научных авторитетов, заявляющих об экзистенциальных рисках.

28 апреля 2018 г. Конструктор Гаврук В. В. г. Осиповичи