Военные роботы: технологии и мораль

Два события, связанных с одной и той же проблемой, - это всегда повод для более внимательного рассмотрения вопроса. В последних числах марта в Гааге прошла международная конференция \"Вооруженные силы будущего 2020: готовы ли мы?\", организованная силами Академии Министерства обороны Нидерландов и национального Центра прикладных научных исследований. А в США только что вышла из печати книга \"Собраны для войны: революция и конфликты роботехники в двадцать первом столетии\", автор которой, П. Сингер, является ведущим сотрудником аналитического центра Brookings Institution и директором его подразделения \"Оборонная инициатива XXI века\".

Чтобы острая актуальность темы боевых роботов стала совсем очевидна, достаточно обратить внимание, что на сегодняшний день созданием роботов военного применения занимаются уже более сорока государств. А общую динамику развития в данной области можно оценить по следующим аналитическим данным из книги Сингера. Когда вооруженные силы США в 2003-м вторглись в Ирак, в составе сухопутных сил вообще не было роботов. К концу 2004 года на территории Ирака американские военные использовали 150 роботов, год спустя их было 2400. А к началу 2009 года работало уже 12 тысяч роботов двух с лишним дюжин разных специализаций.

И уж коли США являются бесспорным лидером в военной роботехнике, имеет смысл рассмотреть эту тему на примере данной страны, воспользовавшись богатым фактическим материалом из работы Сингера.

В небесах

Беспилотный летательный аппарат (БПЛА), или же просто дрон Raven (Ворон), самый популярный робот-самолет в американской армии, имеет длину чуть меньше метра и весит около двух килограммов, так что его запускают с руки - броском вверх и вперед, наподобие копья. В воздухе Raven может находиться до полутора часов, летая на небольших высотах (100–120 метров) и неся на борту три видеокамеры, одна из которых инфракрасная. Солдатам эта модель нравится потому, что Raven позволяет рассмотреть, что творится за ближайшими холмами (в полевых условиях), или оценить ситуацию в ближайших кварталах (в условиях города). А самое главное - солдаты сами запускают-сажают шпиона и сами задают ему маршрут, то есть не надо просить у вышестоящего начальства, чтобы прислали воздушного разведчика для поддержки. Научить управлять таким дроном можно практически любого, так что за два первых года иракской войны число \"Воронов\" в войсках подскочило с 25 штук до восьми сотен.

Один робот Global Hawk может \"присматривать\" с неба за целой страной

Функциональный диапазон летающих дронов весьма широк. Небольшие БПЛА, вроде Raven или совсем маленького Wasp (Оса), летают чуть выше крыш домов, отсылая хозяевам видеосъёмку происходящего в ближайших окрестностях. Машины покрупнее, вроде Shadow и Hunter, способны патрулировать целые районы. Ещё более крупные БПЛА Predator могут держать под контролем весь город, сочетая в себе продвинутые возможности наблюдения (по неофициальным свидетельствам, номера автомобилей распознаются на расстоянии около трёх километров) и солидную огневую мощь (из двадцати уничтоженных лидеров Аль-Каиды одиннадцать были ликвидированы ракетами \"Предаторов\"). Наконец, летающий так высоко, что его и не увидеть, БПЛА Global Hawk способен вести видеонаблюдение за всей страной.

К 2008 году американцы использовали в Ираке 5331 БПЛА, что почти вдвое больше числа пилотируемых боевых самолетов. Один из генералов ВВС США даже сказал: \"с такими темпами роста можно предполагать, что в следующих военных конфликтах будут задействованы десятки тысяч дронов\".

Среди наиболее вероятных будущих применений БПЛА называют \"Предаторов\", переоборудованных для ведения электронной войны, охоты за субмаринами противника и даже для борьбы с вражескими летательными аппаратами. В качестве боевой единицы в проектах часто фигурирует дрон-штурмовик Reaper - более крупный, более умный и лучше вооруженный потомок \"Предатора\". У военных имеется и множество других планов: в частности, на микро-БПЛА размером с насекомого; на Peregrine - дрон, специально разработанный для поиска и уничтожения других роботов; а также на беспилотные стелс-бомбардировщики и высокоскоростные дроны-истребители.

На суше

Главными рабочими лошадками в обширном парке армейских сухопутных роботов США являются машины PackBot и Talon от двух бостонских фирм, iRobot и Foster-Miller соответственно. Аппарат PackBot размером с газонокосилку весит чуть больше 20 кг и стоит 150 тысяч долларов. Как правило, он управляется с дистанционного пульта, но способен и на самостоятельные действия, включая возвращение в точку старта. Передвигается PackBot на четырех гусеничных лентах, что позволяет ему взбираться по лестницам, протискиваться в узкие тоннели и даже неплохо плавать под водой.

Лампа дантиста с гусеницами трактора (робот Talon Swords)

Другой робот, Talon, тоже является многоцелевым. Внешне \"Талоны\" похожи, как шутят в армии, на лампу дантиста с гусеницами трактора. Пятидесятикилограммовый аппарат в стандартной комплектации имеет складную руку-манипулятор с захватом, а основные сенсоры и зум-камера находятся в специальной мачте-антенне. Робот передвигается со скоростью до 10 км/час и работает без перезарядки в течение пяти часов.

Первой областью применения \"Талонов\" и \"Пэкботов\" на войне стала визуальная разведка в наиболее опасных для солдат местах. В Афганистане роботов начали привлекать для обследования пещер, в которых прятались талибы, поскольку, как выразился один из американских военных, у них \"стали кончаться афганцы\". Вскоре для роботов нашлось ещё одно очень важное дело - обезвреживать на дорогах мины и самодельные взрывные устройства, наносящие войскам очень чувствительные потери. Радиоуправляемые машины оказались настолько успешны в этих задачах, что к 2008 году число \"Талонов\" возросло в армии до двух тысяч, а Foster-Miller получила новый, вдвое больший заказ на них.

Talon так впечатлил американское руководство, что из него решили сделать настоящего бойца, вооруженного смертоносным оружием. Сконструированный на том же шасси, боевой робот Swords может нести на борту самые разные виды оружия, включая пулемет, гранатомет или противотанковую ракетную установку. Электронные системы наведения обеспечивают машине высочайшую точность: \"сколько выстрелов, столько попаданий\". Но хотя Swords служат в Ираке с 2007 года, в боевых операциях их использовать пока воздерживаются, поскольку они норовисты и могут преподнести сюрприз в самый критический момент. На смену этой модели уже готовится более надежный боевой робот под названием Maars.

Впрочем, военные роботы находят не только боевое применение. Например, модель Bloodhound, еще одна версия универсальной платформы PackBot, будет способна самостоятельно отыскивать на поле боя раненых солдат и, благодаря дистанционному управлению, оказывать простейшую медицинскую помощь.

Следующим шагом станут специально сконструированные медботы, такие как REV и REX. Робот-эвакуатор REV (от Robotic Evacuation Vehicle) представляет собой автоматизированную версию машины скорой помощи, внутри которой находится REX (Robotic Extraction Vehicle) - нечто вроде робота-санитара, перемещающего раненых в камеру машины. Конструктивно REX представляет собой выдвижную гибкую руку с шестью суставами, способную доставить солдата в безопасное место, а REV имеет систему жизнеобеспечения, видеокамеру и ЖК-экран перед лицом раненого, чтобы операторы могли говорить с солдатом, если тот находится в сознании. Предполагается, что в конечном счете REV удастся сконфигурировать так, чтобы внутри него можно было проводить даже сложные хирургические операции.

Страницы истории

Автоматическое оружие стало появляться в XIX веке, когда началась механизация массового производства. Военные эксперименты с машинами, передвигающимися без водителя (в том числе даже радиоуправляемые аэропланы) начались в годы Первой мировой войны. Во Второй мировой войне воюющие стороны применяли в боях несколько видов беспилотных устройств, включая дистанционно управляемые бомбы. Это был период быстрого развития аналоговых и дискретных компьютерных устройств на электронных схемах.

Во времена холодной войны интерес к роботехнике заметно угас, поскольку для успеха исследований гораздо важнее оказывалась не техническая достижимость, а способность изобретателей преодолевать бюрократические рогатки. Опыт вьетнамской войны для американской военной роботехники был таким же неудачным, как и для всей армии США.

В условиях отсутствия интереса властей и минимального финансирования военной роботехники в 1960–80-е годы были лишь единичные проекты с БПЛА, давшие очень скромные результаты. Лидирующие позиции в этом секторе рынка заняли другие страны, в частности Израиль и Япония. Когда в 1991 году разразилась война в Персидском заливе, у американской армии из роботов на вооружении было несколько старых танков M60, переделанных в радиоуправляемые машины для расчистки минных полей, да один израильский летающий дрон Pioneer, использовавшийся для наведения дальнобойных орудий 40-сантиметрового калибра.

Особенностью Войны в Заливе стало массовое использование компьютеров во множестве самых разных военных задач. В 1990-е годы, одновременно с прогрессом процессоров и сенсоров, стали быстро развиваться и роботехнологии.

В середине десятилетия, вместе с интеграцией в беспилотные машины систем навигации GPS, наступил переломный момент. К сентябрю 2001 года, когда роль армии в США резко подскочила и столь же стремительно вырос военный бюджет, в стране сложились все условия для появления военной роботехнической индустрии. Ныне в эту область ежегодно вкладываются миллиарды долларов, а число действующих на этой ниве компаний давно перевалило за тысячу.

И на море

Не столь заметно, как в воздухе или на суше, на море ныне тоже внедряется широкий набор роботов для военных операций. Аппараты, работающие на поверхности, носят название USV (Unmanned Surface Vessel) и имеют много общего с упрощенными моделями наземных роботов, коль скоро оперируют в двухмерном пространстве и оснащаются сенсорами или оружием. Одну из типичных моделей такого рода, Spartan Scout, впервые начали применять в 2003 году, поручив ей визуальную инспекцию небольших гражданских судов в Персидском заливе. На борту USV имеются громкоговоритель и микрофон, так что арабский переводчик с \"корабля-матки\" мог допросить любую подозрительную лодку, остановленную \"спартанским разведчиком\". Как рассказывают участники досмотров, \"гражданские моряки приходили в замешательство, когда их начинало допрашивать говорящее по-арабски судно без людей на борту\".

Испытания плавучего робота Spartan Scout в Персидском заливе

Существенно иной, подводный тип морских роботов носит название UUV (Unmanned Underwater Vehicle). Эти машины чаще всего используются для поиска и обезвреживания мин, являющихся причиной большинства боевых потерь на море за два последних десятилетия. Например, \"Робо-лобстер\", способный работать в неспокойных прибрежных водах. Другие аппараты больше похожи на мини-субмарины или переделанные торпеды, вроде дрона REMUS, применявшегося в Ираке для очистки водных путей от мин и прочей взрывающейся нечисти.

Автономность и мораль

За последние десятилетия роботы стали несравненно сложнее и умнее, однако все они предназначены для решения очень специфических задач и в целом остаются не более умны, чем какая-нибудь садовая улитка. Они вполне могут делать неверные движения, идентифицировать неверные цели, давать сбои, и уж что они не могут сделать наверняка - так это захватить мир и поработить человечество.

Автономность современных роботов пока оставляет желать лучшего. Даже самих солдат, использующих роботов в операциях, сильно нервирует идея оснастить машины пулеметами и поручать им самостоятельные боевые задания.

Однако высокое начальство упрямо требует делать поводок для роботов все длиннее и длиннее, поскольку железный солдат реагирует на происходящее гораздо быстрее солдата живого. Если, к примеру, взвод попал под обстрел снайпера, то робот с инфракрасной видеосистемой может мгновенно зафиксировать точку выстрела и ответным огнем уничтожить вражеского стрелка ещё до того, как тот успеет укрыться. Но если, в соответствии с нынешними правилами, человек-оператор будет давать санкцию на каждый выстрел, то снайпера противника будет уже не достать.

Постепенно начинает ощущаться и нехватка персонала. В настоящее время каждый крупный самолет-робот, летающий над Ираком, имеет пилота из плоти и крови, который сидит в кабинке на авиабазе в штате Невада и управляет дроном с помощью джойстика. Каждый робот Talon, соответственно, имеет своего \"погонщика\" с дистанционным управлением. Понятно, что это довольно дорогостоящее решение проблемы - а самым эффективным её решением видится вариант, когда роботы полностью автономны и способны самостоятельно решать поставленные перед ними задачи. Кроме того, человек просто физически не сможет управляться с продвинутыми роботами - слишком быстрыми или слишком маленькими и многочисленными. Таким образом, неизбежно встает вопрос об автономных военных машинах.

Тут-то и кроется проблема, которая должна очень серьезно обеспокоить человечество. Независимо от того, насколько умными и надежными можно сделать роботов, они все равно будут делать ошибки. Сколь бы ни были ныне продвинуты системы искусственного интеллекта, их разработчики по-прежнему не очень-то успешны в попытках, скажем, обучить программу эффективно различать яблоки и помидоры. Что уж говорить о выявлении различий между мирными гражданами и бойцами противника?

И при этом, как пишет исследовавший данную проблему П. Сингер, \"закон безмолвствует\" - пока что никто из законодателей не задался всерьез вопросами о том, а можно ли в принципе выдавать автономным роботам лицензию на убийство? Или, формулируя иначе, что должно происходить в тех случаях, когда робот убивает \"не того\" человека. Ведь если в цепочке принятия решений участвуют люди, то может быть установлена и юридическая ответственность. Но когда машина всё делает сама, ответственность исчезает - а вместе с ней исчезают и общепринятые нормы права.

Как считает Сингер, одним из возможных решений было бы разрешить роботам автономное использование только нелетальных видов оружия, благо арсенал таких вооружений ныне весьма разнообразен - от устройств, выстреливающих липкую и быстро отвердевающую массу для обездвиживания противника (goo-gun), до микроволновых излучателей, вызывающих болевые ощущения.

Подобные предложения многим представляются вполне разумными. Не забудем, однако, что самолеты-роботы уже не первый год уничтожают цели в зонах, заведомо населенных, так что упомянутые предложения потребуют очень существенной корректировки фактически принятой практики. И нынешние лидеры в области хайтек-вооружений, в первую очередь США, пока совершенно не готовы связывать себе руки какими-то ограничениями.

Глядя иначе

Помимо названного, есть и другой взгляд на происходящее. За плечами земной цивилизации - весьма постыдная история. Сколько раз человечество бездумно выпускало джинна из бутылки - будь то авиабомбы, отравляющие газы или ядерное оружие, - ещё до того, как были тщательно проанализированы ужасные последствия применения разрушительных технологий. Сегодня имеется вполне реальный шанс учесть прошлые ошибки, и, затевая разговор о боевых роботах и морали, было бы полезно вспомнить знаменитые Три Закона роботехники Айзека Азимова:

    * Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
    * Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
    * Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Сегодня, как показывают исследования Сингера, специалисты-роботехники почти не вспоминают о \"старомодных и наивных\" идеях Азимова. А если вдруг и вспоминают, то лишь чтобы указать, что все его рассказы из цикла \"Я, робот\" по сути своей демонстрируют внутренние противоречия и ограничения основополагающих законов.

При этом, однако, никто не желает видеть одну очень существенную вещь - для Азимова изначально была неприемлемой идея об автономных вооруженных роботах, запрограммированных на умышленное нанесение вреда человеку, не говоря уже об убийствах. В азимовском мире будущего такого не могло быть в принципе. И если в нашем сегодняшнем мире всё иначе, это означает, что с пониманием драгоценности человеческой жизни, а значит, и с основами морали у современного общества большие трудности. Общество, не считающее убийство аморальным, тяжко больно. И как его вылечить, пока неясно.

Война как видеоигра

Военные с умом воспользовались продукцией индустрии видеоигр — в частности, достижениями в области интерфейсов и контроллеров манипуляторов. Создатели консолей Xbox и PlayStation затратили многие миллионы долларов на разработку систем управления, которые идеально подходят для человеческих рук. Неудивительно, что военные тоже стали использовать эти устройства, заодно бесплатно получив в свои кадры целое поколение молодых людей, которые уже натренированы в использовании таких систем.

Но здесь имеется ещё один существенный аспект - специфическая ментальность, формирующаяся у людей при использовании подобных систем. Один из американских военных операторов, управляющих дронами Predator, описал, каковы ощущения при уничтожении противника, находящегося за многие тысячи километров. Он сказал, что \"это словно видеоигра\". Если задуматься, это очень странное, но и очень показательное сравнение для опыта реального убийства людей, а также яркий пример того, как технологии меняют восприятие чрезвычайно важных вещей в сознании целого поколения.

Обозначилась фундаментальная разница в сравнении с пилотом бомбардировщика Второй мировой войны или даже с пилотом бомбардировщика сегодняшнего. Компьютеры и дальняя связь не только полностью лишают человека ощущения аморальности его действий, но и вообще боли, сопутствующей войне, - как физической, так и психологической. Ведь \"боевой\" опыт пилота нынешних дронов выглядит примерно так. Утром он прыгает в свою Тойоту, едет на службу, садится за компьютер, пачками убивает врагов где-то там за океаном, опять прыгает в авто и едет домой. Через полчаса после \"хождения на войну\" он уже дома и за кухонным столом обсуждает с ребенком школьное домашнее задание. То есть понятие о том, что означает \"идти на войну\", изменилось в корне, а ценность жизни людей стала примерно такой же, как у монстров в видеоигре.