Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина Страница 38

59. Можно слышать тот довод, что если доводить вышеприведенную аргументацию до ее логического завершения, то государства вообще не должны пытаться разрабатывать какие-либо военные технологии, понижающие жестокость вооруженного конфликта или позволяющие сократить общие людские потери за счет повышения точности оружия ^[35]. Тогда применение беспилотников и нанесение воздушных ударов с больших высот с использованием «умных» бомб следует также считать проблемным, поскольку они тоже понижают потери живой силы стороны, использующей их (и в некоторых случаях противной стороны), тем самым устраняя для государств политические ограничители в отношении готовности прибегнуть к военным действиям ^[36].

60. Такой довод при ближайшем рассмотрении не выдерживает критики. Понятно, что государствам желательно сократить потери в живой силе во время конфликта, но тогда возникает вопрос о том, можно ли в этом случае говорить о «войне» – в отличие от одностороннего истребления, – когда одна сторона не подвергается угрозе потери жизней и не несет никаких издержек, помимо экономических. Существует качественное отличие понижения степени риска для тех, кто участвует в вооруженном конфликте, от ситуации, когда одна сторона более не является «участником» вооруженного конфликта, поскольку ее комбатанты не подвергаются никакой угрозе ^[37]. БАРС, как представляется, доводят проблемы, поднимаемые бес-пилотниками и нанесением воздушных ударов с больших высот, до их крайнего предела в практическом и правовом плане.

61. Даже если было бы справедливо считать, что в случае применения БАРС количество жертв на один вооруженный конфликт иногда будет меньше, то общая численность потерь в живой силе в совокупности может быть, тем не менее, выше.

62. Самое уместное замечание заключается в том, что возросшая точность поражения и возможность наносить удары в любой точке мира, даже когда не существует никаких линий связи, позволяют считать, что БАРС будут весьма привлекательны для тех, кто захочет прибегать к прицельному уничтожению. Случаи нарушения суверенитета государств – помимо возможных нарушений норм МППЧ и МГП, – нередко ассоциируемые с программами прицельного уничтожения, могут понизить степень безопасности в мире и отрицательно сказаться на защите жизни людей.

С. Применение государствами БАРС во время вооруженного конфликта

63. Следующий вопрос заключается в том, смогут ли БАРС применяться с соблюдением норм МГП. Постольку поскольку ответ на этот вопрос является отрицательным, этот вид оружия должен быть запрещен. Однако, как заявляют сторонники БАРС, это не означает, что БАРС никогда не должны совершать ошибок – мерилом должно являться поведение людей, которые будут принимать решения, что не всегда отвечает самым высоким стандартам ^[38].

64. Некоторые эксперты говорят, что в некоторых отношениях роботы можно заставить соблюдать требования МГП даже лучше людей ^[39]. Робототехник Рональд Аркин, например, предложил способы оснащения военных роботов «этическим регулятором», с тем чтобы они удовлетворяли таким требованиям ^[40].

65. Иного рода соображение состоит в том, что если существует техническая возможность запрограммировать БАРС таким образом, чтобы они соблюдали нормы МГП лучше людей, то тогда, по существу, может иметь место обязательство применять их ^[41] – точно так же, как некоторые правозащитные группы выдвигают тот довод, что при наличии «умных» бомб лучше применять такие бомбы, а не те, которые имеют не столь избирательное действие.

66. Особое значение в этом контексте имеют правила МГП, касающиеся различения и соразмерности. Правило различения имеет целью минимизировать последствия вооруженного конфликта для гражданского населения за счет запрещения выбора гражданского населения в качестве цели и объекта неизбирательных нападений ^[42]. В ситуациях, когда БАРС не могут надежно отличать комба-тантов или других участников боевых действий от гражданского населения, их применение должно быть запрещено.

67. Есть ряд факторов, которые, вероятно, будут ограничивать способность БАРС действовать в этом отношении в соответствии с этими правилами, в том числе технологическое несовершенство современных сенсоров ^[43], неспособность робота понимать контекст и трудность применения языка МГП при определении на практике статуса не-комбатантов, который должен быть преобразован в компьютерную программу ^[44]. Роботам, например, будет трудно определить, ранен ли человек и не участвует в бою, а также понять, находятся ли солдаты в процессе сдачи в плен.

68. Нынешнее распространение асимметричных военных действий и вооруженных конфликтов немеждународного характера, к тому же в городской обстановке, служит существенным ограничителем способности БАРС отличать гражданское население от законных военных целей. Это особенно справедливо в тех случаях, когда необходимо произвести сложную оценку ситуации для определения, например, «прямого участия в боевых действиях». Эксперты отмечают, что в военных действиях по борьбе с повстанцами и при нетрадиционных методах ведения войны, когда комбатантов можно вычислить только с помощью интерпретации поведения, неспособность БАРС интерпретировать намерения и эмоции будет служить серьезным препятствием для соблюдения правила различения ^[45].