Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина Страница 40

79. Высказывается мысль о том, что ответственность за гражданский ущерб должна, по меньшей мере, возлагаться на разработчиков программы и производителей оборудования в соответствии со схемой, аналогичной обеспечению строгой ответственности за качество продукции. Однако действие национальных законов об ответственности за качество продукции применительно к робототехнике в основном не проверено ^[60]. В производстве БАРС непременно задействовано множество людей, и ни один человек в одиночку не будет, вероятно, в состоянии понять сложное взаимодействие составных элементов БАРС ^[61]. Сомнительно также, что возлагать бремя предъявления гражданских исков на жертвы было бы справедливым, поскольку они вынуждены будут предъявлять иски в иностранном государстве и нередко не будут иметь для этого средств.

80. Вопрос о юридической ответственности может иметь первостепенное значение. Если вменение ответственности каждому из указанных выше кандидатов в итоге будет сочтено неуместным или непрактичным, возникнет вакуум ответственности, гарантируя безнаказанность за любое применение БАРС. Если характер того или иного вида оружия не позволяет определить ответственность за последствия его применения, его использование как одиозного вида оружия должно считаться неэтичным и незаконным ^[62].

81. Можно рассмотреть ряд новаторских методов установления юридической ответственности. Одно из условий, которые могут предусматриваться в отношении применения БАРС, заключается в заблаговременном определении ответственно-сти ^[63]. Ввиду того, что технологии потенциально позволяют осуществлять более точный мониторинг и реконструкцию того, что происходило во время смертоносных операций, еще одним условием для их применения может являться установка на них записывающих устройств и обязательное рассмотрение ex post facto всей записи смертоносного применения оружия, независимо от статуса убитого человека ^[64]. Можно также рассмотреть вариант «разделения» ответственности между возможными кандидатами ^[65]. Кроме того, чтобы охватить случаи применения БАРС, может потребоваться внесение поправок в правила ответственности командования. В общем плане может потребоваться усиление акцента на ответственности государства в отличие от индивидуальной ответственности, если речь не идет о случаях использованиях таких систем негосударственными субъектами.

Е. Применение государствами БАРС при отсутствии вооруженного конфликта

82. Опыт применения БПЛА показал, что этот вид военной технологии легко использовать в ситуациях, не являющихся военными действиями на традиционном поле боя.

83. Одним примером ее применения в таких условиях, когда представления о поле боя расширяются и выводятся из контекста МГП, является ситуация выбора в качестве цели предполагаемых террористов, где бы в мире они ни находились, в том числе на территориях, где может не существовать вооруженного конфликта и где в этом случае применима система МППЧ. Опасность здесь заключается в том, что мир рассматривается в качестве единого, масштабного и вечного поля боя, а сила применяется без оглядки на пороговые требования. БАРС могут усугубить эти проблемы.

84. На внутреннем фронте БАРС могут применяться государствами для подавления внутренних врагов и устрашения населения страны, пресечения демонстраций и ведения «войны» с наркоторговлей. Роботы, как говорится, не ставят под сомнение решения своих командиров и не устраивают государственных переворотов ^[66].

85. Возможность применения боевой автономной робототехники во внутренних правоохранительных ситуациях порождает особую опасность произвольного лишения жизни ввиду того, что БАРС неизбежно будет трудно соблюдать более строгие требования, свойственные МППЧ.

F. Последствия для государств, не обладающих БАРС

86. В контексте обсуждения вопросов, касающихся БАРС, нередко говорят о «войне без рисков» и «войнах без людских потерь». Это, как представляется, наводит на мысль о том, что ценна жизнь только тех, кто обладает такой технологией, и это дает основание испытывать беспокойство, вызванное развертыванием этой технологии, а именно безразличием к жизни тех, кто такой технологией не обладает. БАРС создают в высшей степени асимметричную ситуацию, при которой роботов могут в некоторых случаях использовать против живых людей. БАРС смогут, вероятно, – по крайней мере, на первом этапе их существования – смешать риски, сопряженные с вооруженным конфликтом, и переносить их на участников боевых действий и гражданское население противоборствующей стороны.

87. Применение всеподавляющей силы может, как было доказано, быть контрпродуктивным – как, например, в контексте демонстраций, когда, как предупреждают психологи, это может вызывать эскалацию применения контрсилы ^[67]. В ситуациях военных действий отсутствие у государства, применяющего БАРС, законной человеческой цели на поля боя может выливаться в нападении на гражданское население как на «наилучшие возможные цели», и применение БАРС тем самым может стимулировать ответные действия, возмездие и терроризм ^[68].

88. Преимущества государств, обладающих БАРС, по сравнению с другими государствами необязательно будут иметь постоянный характер. Существует возможность распространения таких систем и обладания ими другими государствами, причем не только теми, которым первые передадут или продадут их. Другие государства, вероятно, будут разрабатывать свою собственную технологию боевой автономной робототехники, в частности с разной степенью программирования для соблюдения МГП и с потенциальными проблемами совместимости алгоритмов, если БАРС противоборствующих сторон будут противостоять друг другу. Существует также потенциальная опасность приобретения БАРС негосударственными субъектами, которые в меньшей степени будут склонны соблюдать режимы регулирования, обеспечивающие контроль и транспарентность.