Шапка
IPG Logo

Позволить роботам вести войны?
Почему необходимо запретить автономные системы вооружений

AFP
AFP
Если такие технологии окажутся в распоряжении негосударственных игроков, угроза возрастет многократно.

Читайте также эту статью на немецком языке

После выхода Соединенных Штатов и России из Договора о ракетах средней и меньшей дальности (ДРСМД) возникает угроза ядерного перевооружения, касающаяся и европейского континента. Вне зависимости от степени опасности такого хода событий по обе стороны Атлантики сложилась устойчивая рефлекторная реакция: некое подобие баланса в конце концов сделает в высшей степени маловероятным реальное применение ракет средней дальности с ядерными боеголовками. Слишком жестким и предсказуемым был бы обмен ядерными ударами: если ты нанесешь удар по мне, получишь удар в ответ. В конечном счете обе стороны оказываются в проигрыше. Конечно, нельзя недооценивать или приуменьшать степень риска, связанного с ядерным перевооружением. Однако игра мускулами со стороны Трампа, Путина или Ына не должна оттеснять на задний план другие, часто менее резонансные темы, касающиеся разоружения.

Такая совершенно новая динамика в настоящее время наблюдается в сфере разработки летальных автономных систем вооружения (Laser Weapon System, LаWS). В то время как публичная дискуссия об аргументах за или против таких вооружений пока практически отсутствует, обсуждение в кругу специалистов длится вот уже несколько лет. Несмотря на конференцию ООН по разоружению в Женеве, в которой с 2013 года принимают участие представители многих мировых государств и на которой ведется дискуссия по проблеме LаWS, какие-то главные вопросы по-прежнему остаются без ответа. Это касается общепринятого определения понятия LаWS, равно как и ответственности за ошибки, которые могут совершаться сложными автономными механизмами.

Нельзя делегировать машинам ответственность за применение насилия, в том числе уничтожение другого человека

Нет ответа и на вопрос, как можно согласовать между собой насилие со стороны летальных автономных систем оружия и принцип человеческого достоинства, а также фундаментальные права человека. Нельзя делегировать машинам ответственность за применение насилия, в том числе уничтожение другого человека. На самом деле этот вывод связан не столько с апокалиптическими сценариями, внушающими ужас, в которых автономные армии роботов ведут войну друг с другом, сколько с возможностью разработки алгоритмов, не исключающих и способности к самообучению, которые позволят принимать решение о жизни человека.

Такое представление полностью противоречит ценностям просвещения и человеческой цивилизации. Из него можно и следует сделать только один вывод: системы вооружений, применяемые против живых целей, должны находиться под постоянным контролем человека. Можно вести интеллектуальные споры вокруг того, могут ли вообще военные действия при каких-либо условиях считаться «гуманными» или «моральными», но ясным остается одно: передача ответственности алгоритму, насколько бы надежным с математической точки зрения он ни казался, повлекла бы за собой опасное смещение ценностей.

Конкретно это означает, что автономность систем вооружения не должна делать человека последним звеном в оперативной цепочке, лишь «благословляющим» пуск соответствующей системы оружия. Напротив, военнослужащий, командующий машиной, должен активно вмешиваться в выбор, определение приоритетности и преследование целей и быть в состоянии управлять этими функциями. Таким образом, должен существовать достаточный простор для взвешивания моральных аргументов и определения границ собственной совести.

Переговоры в Женеве, затянувшиеся на годы, свидетельствуют, что у государств возникли большие трудности с нахождением консенсуса по этим вопросам и получением выводов о возможных последствиях в контексте международного права, связанных с угрозами из-за внедрения LаWS. В самом деле, автономные системы вооружений становятся вызовом для международного права, с которым ему до сих пор не доводилось иметь дело. В частности, какими характерными качествами должен обладать военнослужащий, если поле битвы преимущественно будет усеяно автономными машинами? Возникла неотложная потребность в обсуждении вопроса о запрете LаWS или, по крайней мере, всеобъемлющем урегулировании этого вопроса.

Слишком различны цели тех государств, которые с точки зрения военных технологий входят в высшую лигу, и теми, кто неминуемо оказывается проигравшим в этой гонке, а потому настаивает на максимально строгом урегулировании.

Во-первых, автономность систем вооружения не появится внезапно, за одну ночь. Скорее речь идет о вялотекущем процессе, в ходе которого шаг за шагом повышается уровень автономности соответствующих систем управления. В отличие от популярного понятия «робота-убийцы» LаWS в обозримом времени не обретут каких бы то ни было свойств «души» – речь будет идти о сумме тех конкретных систем, которые составляют функционирующее целое. Если урегулирование не будет осуществлено или окажется слишком медленным, технический прогресс стремительно уйдет в отрыв и догнать его вряд ли когда-либо удастся. Мы не должны прозевать такое развитие событий, как например, стирание границ конфликтов посредством так называемых целевых убийств вне классических территорий конфликта.

Во-вторых, нужно спешить не только в технологическом, но и политическом смысле. Переговорам в Женеве грозит провал из-за недостатка совпадающих или пересекающихся между собой интересов. Слишком различны цели тех государств, которые с точки зрения военных технологий входят в высшую лигу, и теми, кто неминуемо оказывается проигравшим в этой гонке, а потому настаивает на максимально строгом урегулировании. Вероятным последствием столь тупиковой ситуации может стать соглашение вне ООН или параллельно с ней, отличающееся обозримым кругом государств-участников, облеченными соответственно меньшей правовой и моральной харизмой.

Путь ко всеобщему запрету летального автономного оружия, вне сомнения, тернист, прежде всего с учетом существенного военного потенциала подобных систем вооружения и огромной пользы в случае их использования в гражданских целях. Но он не безнадежен. Предпосылкой успеха являются совместные усилия по решению этого вопроса со стороны национальных правительств, международных организаций, национальных и международных парламентских органов, а также гражданского общества. Отмеченная Нобелевской премией кампания за отмену ядерного оружия (ICAN) показала, насколько успешным может быть правильно построенное международное давление.

В прошлом году парламент Бельгии принял резолюцию с требованием запрета летальных автономных систем вооружений. Вскоре после этого Европейский парламент в очередной раз озвучил свой призыв к запрету LаWS. Фракция Социал-демократической партии в бундестаге в свою очередь присоединилась к этим инициативам и выдвигает требование запретить летальные автономные системы вооружения, которые могут функционировать без распоряжений человека. Теперь бундестагу Германии нужно подкрепить эту позицию в целом, а также призвать другие парламенты и правительства присоединиться к ней и в долгосрочной перспективе довести дело до действенного запрета летальных автономных систем оружия. Поддержку такой инициативе может оказать и промышленность: в частности, президент Федерального объединения немецкой промышленности недавно потребовал запрета LаWS по образцу Конвенции о запрещении химического оружия.

Пока неясно, каковым может в будущем оказаться вес автономных систем оружия на полях битв. Смогут ли LаWS в какой-то момент достичь по своему действию эффекта оружия массового уничтожения, пока что сказать трудно. Но уже сегодня очевидно одно: размывание некогда четких контуров ядерной гонки вооружений, в частности способности к нанесению первого или ответного удара, баланса, зиждущегося на страхе, ядерных триад, еще более ускорилось бы в случае гонки вооружений в области автономных систем оружия. Если к этому присовокупить соседствующую сферу ведения кибервойн, то формы ведения симметрических войн полностью исчезают. Если же такие технологии окажутся в распоряжении негосударственных игроков, угроза возрастет многократно. Расторжение Договора о ракетах средней и меньшей дальности весомо само по себе, но предметом нашего максимального внимания должны стать именно подобные технологии будущего.

Понравился материал? Подписывайтесь на рассылку прямо сейчас.

0 Комментарии читателей

Нет комментариев
Добавить комментарий

Ваш комментарий не должен превышать 800 знаков и содержать ссылки на другие сайты.

Соблюдайте, пожалуйста, наши правила комментирования.



Доступно 800 знаков
* Вы можете оставить комментарий под псевдонимом. Адрес Вашей электронной почты не публикуется.