Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина Страница 37

3. Факторы, способствующие и препятствующие разработке БАРС

50. Некоторые из причин, в силу которых следует ожидать непрекращающееся стремление разрабатывать БАРС, равно как и сдерживающие факторы, мешающие реализации этого стремления, справедливы также и в более широком плане для разработки других систем, действующих без участия человека. Они предоставляют громадные военные и иные преимущества тем, кто их применяет, и являются элементом более широкого процесса автоматизации военных действий и мира в целом.

51. Беспилотные системы позволяют обеспечивать проецирование большей силы (сохранение жизни своих собственных солдат) и повышение боевых возможностей войск (позволяя решать те же задачи персоналом меньшей численности). Они могут расширять поле боя за счет более легкого проникновения в тыл противника и экономного использования людских и финансовых ресурсов. Беспилотные системы могут находиться на дежурстве значительно дольше людей и выдерживать другие перегрузки, такие как многократное увеличение силы тяготения. Они могут содействовать улучшению качества жизни солдат стороны, использующей такие системы: беспилотные системы, особенно роботизированные, все больше ориентированы на выполнение так называемых грязных, тупых и опасных задач ^[27].

52. Роботы могут в некоторых ситуациях служить гуманитарным целям. Хотя появление в настоящее время беспилотных систем можно объяснять желанием государств не связываться со сложными проблемами взятия противника в плен, будущие поколения роботов смогут использовать меньше убойной силы и тем самым приводить к меньшим человеческим жертвам. Технологии могут предоставить креативные альтернативы смертоносности, например, способы нейтрализации или обезоруживания цели ^[28]. Роботы могут программироваться таким образом, чтобы оставлять цифровой след, что в перспективе позволяет контролировать их действия лучше, чем это оказывается возможным в случае действий солдат, и в этом смысле повысить подотчетность.

53. Со своей стороны переход от дистанционно контролируемых систем к БАРС объясняется рядом других соображений ^[29]. Возможно, самым главным из них, если учитывать возросшие темпы боевых действий, является тот факт, что люди в некотором смысле стали самым слабым звеном военного арсенала и тем самым выводятся из системы принятия решений. Скорость реагирования автономных систем намного превышает скорость реагирования человека, особенно если скорость реагирования дистанционно контролируемых систем дополнительно замедляется неизбежными в глобальных коммуникациях задержками, вызванными разницей во времени. Стимулом для государств разрабатывать БАРС является также возможность продолжать военные операции даже в случае нарушения линий связи за линией фронта.

54. БАРС не будут иметь некоторых из свойственных человеку недостатков, которые могут отрицательно сказываться на задаче защиты жизни. Их действия, что характерно, не могут быть продиктованы местью, паникой, злостью, яростью, предрассудками или страхом. Кроме того, если только роботы не будут специально для этого запрограммированы, они не будут намеренно причинять страдания гражданскому населению, например посредством применения пыток. Роботы, кроме того, не насилуют.

55. Однако в других отношениях возможности роботов по сравнению с людьми ограничены. Вооруженный конфликт и МГП требуют от человека определенного суждения, здравомыслия, видения более широкой картины событий, понимания намерений, лежащих в основе действий людей, а также понимания системы ценностей и способности предвидеть, в каком направлении могут развиваться события. В условиях вооруженного конфликта решения, касающиеся жизни и смерти, могут требовать милосердия и интуиции. Люди – хотя они не лишены недостатков – по крайней мере, могут обладать этими качествами, тогда как роботы ими определенно не обладают. Хотя роботы особенно эффективны при решении вопросов количественного плана, их возможности качественного анализа, который нередко требуется, когда речь идет о человеческой жизни, ограничены. Механические расчеты затруднены некоторыми противоречиями, нередко свойственными принятию решений в условиях боевых действий. Еще один вопрос, вызывающий озабоченность, связан со способностью роботов проводить различие между законными и незаконными приказами.

56. Хотя БАРС, таким образом, могут в некоторых отношениях точнее и быстрее человека оценивать ситуацию, в других отношениях их возможности являются более узкими нередко ввиду ограниченности их способности интерпретировать контекст и осуществлять расчеты, базирующиеся на системе ценностей.

В. БАРС и решение начать военные действия или применить силу в иных целях

57. В течение большей части последних двух столетий развитие международного права было направлено на сдерживание вооруженного конфликта и применения силы в ходе правоохранительных операций, с тем чтобы сделать такой выбор только крайним средством, к которому прибегают в последнюю очередь. Однако людям свойственны также другие рефлексы, удерживающие их от принятия решения начать военные действия или применить силу в иных целях, которые играют важную (хотя нередко и не решающую) роль в обеспечении гарантий жизни и международной безопасности. Главными среди них являются такие человеческие качества, как наша боязнь смерти и потери близких и неприятие вынужденности убивать других людей ^[30]. Физическая и психологическая дистанцированность от фактического применения силы, которая в перспективе возникнет с появлением БАРС, может понизить роль всех этих трех качеств и даже сделать их неактуальными для людей на стороне государства, применяющего БАРС ^[31]. Военное командование, например, будет поэтому более склонным применять БАРС, чем обычные рядовые солдаты.

58. Такая легкость может в перспективе влиять на принятие политических решений. Ввиду низких или пониженных людских потерь в вооруженном конфликте для государства, имеющего в своем арсенале БАРС, национальное общество может со временем проявлять все больше безразличия и оставлять решение о применении силы как вопроса в основном финансового или дипломатического плана на усмотрение государства, что будет приводить к ощущению «обыденности» вооруженного конфликта ^[32]. Таким образом, БАРС могут понизить для государств порог для начала вооруженного конфликта или иного использования смертоносной силы, в результате чего вооруженный конфликт уже не будет являться средством, к которому прибегают в последнюю очередь ^[33]. Как отмечается в докладе Генерального секретаря о роли науки и техники в контексте международной безопасности и разоружения, «…улучшение технических характеристик автономных средств открывает перед страной возможность для их использования в ходе военных действий, не опасаясь негативной реакции населения по поводу гибели людей» ^[34]. Объяснение использования автономных систем как менее затратную альтернативу развертыванию живой силы на поле боя может, следовательно, являться ложной дихотомией. Если сухопутное вторжение не пользуется достаточной поддержкой, то подлинной альтернативой применению беспилотных систем будет неприменение силы вообще.