Роботы-убийцы против человечества. Киберапокалипсис сегодня

Выявление, приоритизация и отслеживание эффективности поражения цели

Современные военные все шире используют различного рода автоматизированные и роботизированные системы для выполнения функций, связанных с разведкой. В этих целях используются не только хорошо известные радары и тепловизоры, но и самые разнообразные приборы, позволяющие обнаружить противника во всех средах с использованием всех частот электромагнитного спектра.

Высокая автоматизация функций распознания, обнаружения, наведения и даже детонации позволяет создавать и использовать высоко автономные системы, где за человеком остаются в основном функции, связанные с принятием решения о поражении боевой силы или техники.

Рассмотрим с этих позиций автономность типовой ракеты воздух-воздух, находящейся на вооружении вооруженных сил США. В настоящее время визуальное или электромагнитное обнаружение цели осуществляется в автоматическом режиме. Идентификация цели производится компьютером, который передает данные пилоту. Пилот принимает окончательное решение о запуске ракеты. Дальше ракета летит в автономном режиме. По сути, участие человека сводится к принятию решения о запуске ракеты. При этом надо иметь в виду, что в подавляющем большинстве случаев пилот не может проверить данные компьютера, поскольку распознавание происходит не оптическим путем, а на основе данных радаров. Помимо данных радара, пилот опирается на данные систем распознавания «свой-чужой», а также самостоятельную оценку общей боевой ситуации. В случае, если все показатели говорят о том, что запуск целесообразен, он нажимает соответствующую кнопку и далее ракета действует в автономном режиме. При этом он получает в случае поражения ракетой противника соответствующий сигнал, удостоверяющий в достижении цели. Таким образом действуют пилоты во всех странах, а не только в США.

Пока такой подход приносит успех. Однако подобная ситуация будет сохраняться лишь до тех пор, пока какая-то из стран не перейдет к полностью автономной боевой воздушной системе, где не будет места пилоту. В этом случае, согласно данным многочисленных экспериментов с пилотируемыми и беспилотными летательными аппаратами США, случится следующее. Беспилотник, который обнаружит при помощи тех или иных систем цель, примет решение быстрее, чем летчик. Могут сказать, что выигрыш может составить даже не секунды, а миллисекунды. Но в бою все решают именно эти миллисекунды. За это время беспилот-ник может нанести удар и изменить место дислокации. Таким образом, пилот с более замедленной, хотя возможно и более адекватной реакцией, окажется в проигрышном положении и есть вероятность, что его самолет будет сбит, а беспилотник не только уничтожит врага, но и сохранит живучесть. Иначе говоря, в данном случае наличествует типичная ситуация столкновения двух критериев. Уже сегодняшние боевые автономные роботизированные системы могут действовать и наносить удары быстрее, чем гибридные системы с «человеком в петле управления». В то же время гибридные системы имеют на сегодняшний день преимущества над полностью автономными по критерию качества решения. У них гораздо меньше ошибок. Однако, если одной из сторон неважны ошибки и их последствия, то в битве уже сегодняшних, а тем более завтрашних БАРСов и гибридных систем в воздухе и не только, победят БАРСы.

Высокоточное оружие увеличивает человеческий контроль над военными действиями

Одной из самых ранних известных систем контроля за распознаванием целей была автоматизированная идентификация целей в рамках операции «Лайнбакер» во Вьетнамской войне. Тогда впервые были созданы и использованы на полях сражений системы точного целенаведения. Они позволили американским вооруженным силам отказаться от ковровых бомбардировок и использовать высокоточные боеприпасы, поражающие не только здания вместо отдельных кварталов, но и отдельные этажи или участки зданий. Надо прямо сказать, что в ходе Второй мировой войны не только Германия, но и союзники, лишенные возможности использовать высокоточное оружие, осуществляли ковровые бомбардировки городов. В их ходе вместе с промышленными объектами и военными базами стирались с лица земли целые жилые кварталы. Многие до сих пор полагают, что это были преступные в юридическом смысле действия командования военно-воздушных сил и бомбардировочной авиации Великобритании и США.

С каждым следующим поколением вооружений повышалась точность оружия, и появлялись новые системы распознавания, контроля и наведения оружия на цель в размерности уже не на уровне зданий, а отдельных движущихся мишеней, типов автомобилей и даже отдельных людей. Несмотря на то, что некоторые активисты не только на Ближнем Востоке, но и в Соединенных Штатах и Европе выступают против такого рода высокоточных автономных систем, они делают войну не более жестокой, а более гуманной. Активисты приводят в пример дроны, поразившие в Афганистане мирные деревни. Однако в подавляющем большинстве подобных случаев ошибки были связаны не с электронными или автономными элементами системы, а с человеком-оператором, который в условиях эмоционального, когнитивного и поведенческого стрессов делал ошибки, выбирая неправильные цели. В подавляющем большинстве случаев не машина, а человек является уязвимым звеном гибридной системы. Данный вывод базируется не на страшилках средств массовой информации и домыслах ангажированных активистов, а на сухих фактах в опубликованных отчетах.

«Человек в петле» для выбора и идентификации конкретных целей

Уже отмечалось, что, по крайней мере, 30 стран в настоящее время в своих вооруженных силах используют в той или иной мере автономные боевые системы. В подавляющем большинстве случаев это не полностью автономные системы, а системы, где человек сохраняет функции надзора и принятия конечного решения о поражении цели. В основном в подобных БАРСах автоматы автономно выполняют все функции, кроме выбора цели и принятия решения об атаке.

В настоящее время такого рода системы включают в себя:

• противовоздушную и противоракетную систему обороны Америки, базирующуюся на ракетах морского базирования «Аргус» и наземного базирования «Пэтриот»;

• тактические и малой дальности ракетные, противоракетные, артиллерийские и иные системы, подобные системе «Голкипер»;

• активные системы противоракетной защиты для определенных территорий, типа французской системы «Акула» и российской системы «Периметр».

К числу 30 стран, которые имеют наиболее продвинутые, автономные боевые наступательные и оборонительные системы относятся Австралия, Бахрейн, Бельгия, Канада, Чили, Китай, Египет, Франция, Германия, Греция, Индия, Израиль, Япония, Кувейт, Нидерланды, Новая Зеландия, Норвегия, Пакистан, Польша, Португалия, Катар, Россия, Саудовская Аравия, Южная Африка, Южная Корея, Испания, Тайвань, Объединенные Арабские Эмираты, Соединенное Королевство и США.

Во всех этих случаях автоматизация и автоно-мизация используются, прежде всего, для защиты личного состава вооруженных сил и населения, наземных объектов и транспортных средств – от ракет и самолетов. Эти системы являются важным компонентом выживания в современной войне и уменьшения потерь среди мирного населения.

Однако на сегодняшний день автономные защитные системы используются недостаточно. Как правило, они ориентированы лишь на защиту от неодушевленных объектов – ракетных снарядов, ракет, самолетов, а не от действий людей. Однако, уже имеющиеся системы анализа и прогнозирования поведения групп людей и отдельных индивидуумов на основе Больших Данных позволяют своевременно распознавать не только действия, но и намерения именно людей и осуществлять против них целевые высокоточные превентивные меры. Из экзотической возможности данная область превращается в возможно самую актуальную и необходимую сферу применения автономных систем. Это связано с невиданным прогрессом за последние годы информационных технологий и связанных с ними опасностей проведения разрушительных кибератак, по своим возможностям равным последствиям применения оружия массового поражения.

Автономные роботизированные (человек вне «петли управления») системы наведения, доставки и поражения специальных целей

В настоящее время существует немного видов оружия, которые исключают человека из «петли управления» и автономно, при помощи программно-аппаратного блока, принимают решение о ее поражении цели. Более того, некоторые виды подобного оружия не включают человека и как контролера выбора и поражения цели.

Самым старым по времени и распространенным типом подобного оружия являются так называемые «неуправляемые боеприпасы». В отличие от управляемых боеприпасов, неуправляемые боеприпасы запускаются, и их дальнейшая траектория никак не зависит от человека. В то же время эти неуправляемые боеприпасы отличаются от традиционных, существующих уже столетия, артиллерийских снарядов, неуправляемых ракет, типа Фау-1 или русская «Катюша» и т. п. Неуправляемые автономные боеприпасы в основном представляют собой ракеты, которые имеют специальные датчики, распознающие действия радиолокационных станций и систем противоракетного оружия у противника. Они соответственно могут уклониться от таких станций, либо поражения их противоракетой. В то же время, они не поддерживают связь с человеком-оператором и, уклонившись, самостоятельно выбирают цель на основании встроенной системы распознавания образов, и поражают ее. При этом, учитывая, что подобные вооружения являются массовыми, а соответственно должны стоить достаточно дешево, в них используется простейшее, и потому далеко не самое эффективное, программное обеспечение, ответственное за распознавание целей. В отличие от высокоточного управляемого оружия, такие боеприпасы предназначены для поражения любой цели и соответственно действуют, что называется, в режиме коврового поражения.

Подобного типа экспериментальные неуправляемые автономные боеприпасы были разработаны для армии США в рамках программы малобюджетных автономных атакующих систем (LOCAAS). Пик разработки таких систем пришелся на 80-90 годы прошлого века. Несмотря на успешные испытания, на вооружение армии, флота и военно-воздушных сил США они так и не поступили.

В настоящее время в мире эффективно применяется для решения конкретных задач на поле боя только одна подобная система. Это – израильская система «Харпи». Харпи – это ракета, которая умеет уклоняться от радаров противника, заранее засекает пуск простейших ракет земля-воздух и обходит районы, где расположены такие установки. Наконец, она умеет распознавать определенные типы вооружений, такие как ракетные установки, стоящие на земле, или установленные на автомобилях и крышах домов. Распознав такие установки, она поражает их.

Ключевое отличие управляемых от неуправляемых автономных боевых систем связано со стоимостью и сложностью программного обеспечения и сенсорных датчиков. На неуправляемых боеприпасах стоит дешевое программное обеспечение и недорогие датчики, повышающие живучесть таких систем, но не обеспечивающих их высокую точность в поражении конкретных целей.

В настоящее время в технологически развитых армиях мира, прежде всего, в вооруженных силах США и их союзников и партнеров, используются высокоточные управляемые автономные роботизированные системы. В то же время на вооружении террористических сетей, типа Аль-Каиды и Талибана, а также террористических группировок, типа Хамас или Хезболла, имеются кустарно произведенные, неуправляемые автономные системы – ракеты малой дальности действия, рассчитанные на поражение любой цели.

Как правило, при обсуждении автономного оружия полностью исключается тема мин. Между тем мины, по сути, являются автономным неуправляемым оружием. Человек, за исключением дорогостоящих мин, предполагающих взрыв по команде оператора, исключен из «петли управления и контроля». Мина устанавливается, маскируется и приводится в действие посредством сенсоров, фиксирующих присутствие или передвижение любого мобильного объекта. В этом смысле мины относятся к неуправляемым автономным системам. Соответствующий заряд будет активирован датчиками вне зависимости от того, кто оказался на минном поле – солдат или ребенок, машина или слон.

Согласно многочисленным исследованиям, мины сегодня представляют самое распространенное автономное оружие. От них несут самые большие потери сухопутные войска США. В результате подрыва на минах в Ираке и в Афганистане погибло втрое больше солдат и офицеров, чем в результате огневого соприкосновения в ходе боев. Дополнительно надо отметить, что террористические сети и группировки не придерживаются международных соглашений и договоров, заключенных относительно разработки и применения мин, в том числе осколочных.

В этой связи едва ли не самой актуальной сферой использования БАРСов является АРСы-саперы. В Соединенных Штатах в настоящее время разработаны и прошли испытания полем боя семь различных автономных роботизированных систем по обнаружению и уничтожению мин различного типа.

Что такое автономное оружие?

Как уже упоминалось ранее, нет никакого международного согласованного определения для «автономного оружия». С позиции здравого смысла можно определить автономное оружие, как оружие, которое самостоятельно обнаруживает цель, транспортирует боезапас или блок, выполняющий те или иные функции до цели, а также самостоятельно обеспечивает выполнение целевой функции или решение боевой задачи. Соответственно, полуавтономным оружием является оружие, где человек присутствует в «петле управления» и выбирает конкретную цель, а также принимает конечное решение о ее поражении.

На наш взгляд, это лучшее из возможных и наиболее приемлемое для внутреннего и международного обихода определение автономного оружия. Мы считаем его наилучшим по нескольким причинам:

• во-первых, поскольку это определение соответствует большинству используемых на практике в Соединенных Штатах и за рубежом определений;

• во-вторых, оно позволяет идентифицировать не только уже существующие, но и будущие типы вооружений;

• в-третьих, так или иначе, это определение может быть развернуто с добавлением определенных свойств в терминологию, используемую в настоящее время министерством обороны США, ООН, Международным Комитетом Красного Креста и т. п.

Представляется, что данное определение позволит разработчикам, планировщикам, администраторам и военным говорить на одном языке. С технической точки зрения данное определение позволяет выделить основные направления развития автономии в военном деле. К ним относятся:

• автономные системы оружия, которые после своей активации действуют на всех фазах боевого цикла самостоятельно, без участия человека-оператора, и даже человека-контролера;

• системы автономного оружия, предполагающие контроль оператора. В этих системах участие оператора сводится лишь к возможности отменить миссию, обеспечив автономный возврат на места дислокации или принять решение об уничтожении автономного оружия;

• полуавтономные оружейные системы. В этом типе систем человек остается участником «петли управления и контроля» и выполняет те или иные функции в дополнительном или параллельном по отношению к программно-аппаратному блоку режиме. Человек может в силу каких-либо обстоятельств взять управление оружием на себя и т. п.

Необходимо отдавать себе отчет, что повышение уровня автономности одновременно может способствовать росту эффективности и жизнеспособности систем оружия и повышать риски его избыточного или нецелевого применения. Два эти процесса пока идут параллельно, и разделить их не удается.

Возможно, могут быть предложены и другие подходы к определению автономности оружия. Однако данный подход представляется наиболее оправданным не только с точки зрения его больших описательных возможностей, но и поскольку он анализирует оружие с единственно правильной точки зрения. А именно, с точки зрения человека-оператора и контролера.

Представляется, что в будущем даже при наличии технических возможностей создания полностью автономных военных систем в строгом, формальном смысле слова, надо много раз подумать и еще больше раз поэкспериментировать, прежде чем ставить такие системы на вооружение. С ростом интеллектуальности автономных систем и повышением их огневой и иной поражающей мощи, параллельно возрастают риски не только утраты контроля, но и вообще способности человека управлять и контролировать подобными системами.

Уже сегодня в вооруженных силах США применяются программно-аппаратные комплексы для анализа и прогнозирования, которые человек не контролирует. Т. е., он, конечно, контролирует их работу, именно человек пишет программу, но строго говоря, не только непосредственные потребители – военные, но и возможно разработчики и программисты не могут проконтролировать правильность рекомендаций, анализов и прогнозов, полученных аппаратно-программным комплексом. Уже сегодня в определенных случаях военные становятся заложниками компьютерных вычислений.

Представляется, что определение, базирующееся на здравом смысле и опирающееся на анализ распределения участия человека и автомата в решениях и действиях на разных фазах боевого цикла – от обнаружения цели до ее поражения, позволяет уйти от «мутных тем» искусственного интеллекта, человеко-машинного разума и свободы воли роботов. Оставим их писателям-фантастам, философам, психологам и т. п., а вместо этого сосредоточимся на конкретной работе, связанной с автономным оружием.

Выводы

Стремительное развитие информационных технологий означает, что возможности, сегодня кажущиеся труднореализуемыми, либо невероятными, завтра станут обыденностью и будут воплощены в конкретных системах, аппаратах, решениях и механизмах. Мы не думаем, что процесс развития информационных технологий является полностью управляемым. Более того, мы не думаем, что можно даже, понимая ту или иную опасность, остановить динамику. Например, всем понятны опасности, связанные с постоянно повышающейся автономностью в сочетании с ростом интеллектуальности вооружений. На эту тему очень много рассуждают различного рода активисты и политики. Они, вероятно, правы в своих опасениях. Но эта правота ничего не меняет. Каждая из потенциально враждебных сторон будет резонно полагать, что противоположная сторона стремится обеспечить свое преимуществ. Соответственно она не будет верить, что противоположная сторона займет сдержанную позицию по отношению к автономии интеллектуальных систем оружия. В итоге гонка в автономии, интеллектуальности и живучести вооружений неостановима до тех пор, пока будут иметься хотя бы две не доверяющие друг другу стороны.

Этот материал нацелен на выработку общего понимания автономии. Слишком часто в прошлом те или иные политические и административные решения принимались в нашей стране, за рубежом и в международном масштабе без понимания сути дела. Отдавая отчет в долговременной тенденции повышения автономности роботизированных систем, в том числе в военном деле, мы, с учетом этой тенденции и должны принимать различного рода законодательные и административные акты, формировать бюджет. Если они не будут соответствовать тенденции, при всех благих намерениях они не будут выполняться.

Видя опасность повышения автономности, интеллектуальности и живучести систем вооружений, мы должны отдавать себе отчет, что эти тенденции имеют и свою положительную сторону. Например, они позволяют резко снизить потери в вооруженных силах Соединенных Штатов, позволяют при использовании высокоточного оружия на порядки уменьшить жертвы среди гражданского населения в зонах вооруженных столкновений и конфликтов.

Общей тенденцией эволюции систем вооружений в будущем будет их нарастающая автономия, все более активный переход от полуавтономных БАРС и АРС различных типов к автономным системам и полностью автономным системам в формальном смысле. Целесообразно, прежде всего, отработать автономные системы, не несущие на себе летального оружия, а связанные с разведкой, транспортировкой, логистикой и применением нелетального оружия. Наработав опыт в этой сфере и приучив к такого рода системам общественное мнение, а главное, сделав их привычными для солдат и офицеров, можно переходить к следующей стадии – к БАРСам.

Мы полагаем, что в ближайшем будущем на вооружении США и их союзников и партнеров будут находиться в основном полуавтономные, а также небоевые АРС. Что касается врагов и противников Америки, то в ближайшем будущем их технологические возможности вряд ли позволят создать эффективные БАРС. Однако такой риск тем не менее сохраняется вследствие исчезновения барьеров между гражданским и военным секторами технологий, бизнеса и т. п. Поскольку враги, в том числе, негосударственные акторы, потенциально могут купить, получить или создать БАРС, уже сегодня Соединенные Штаты, их союзники и партнеры должны заранее сосредоточить усилия на создании БАРС, действующих исключительно против БАРСов противника.

Сосредоточившись на теме автономии вооружений, важно не забывать и о других характеристиках. Эти характеристики в определенных условиях могут быть не менее, а даже более важными, чем автономность.

Например, статическая система автономного оружия, расположенная вдоль границы страны, будет гораздо более уязвима, чем автономная мобильная система. Хорошо известно, что в годы Холодной войны самым страшным оружием Советов были неуловимые поезда, несущие на себе стратегические ракеты, запускаемые непосредственно с колесных платформ. В отличие от легко обнаруживаемых стратегических сил США, расположенных либо в шахтах, либо на подводных лодках, Соединенные Штаты до последних дней существования СССР не знали, где и когда может быть нанесен удар этими подвижными железнодорожными монстрами, не распознававшимися со спутников, для которых они выглядели также, как составы с песком или коровами.