46. При нападении соблюдаются следующие меры предосторожности:
a) те, кто планирует нападение, принимает решение о его проведении или осуществляет его, должны сделать все практически возможное для того, чтобы собрать сведения, необходимые для выявления в районе нападения объектов, не являющихся военными объектами;
b) в свете имеющихся у них сведений, те, кто планирует нападение, принимает решение о его проведении или осуществляет его, делают все практически возможное, чтобы нападения ограничивались военными объектами.
И на финале следует сказать, что автономная система вооружения должна будет функционировать так, чтобы это повлияло принимать необходимые меры предосторожности при нападении, которые призваны свести к минимуму число жертв среди гражданского населения.
Но здесь возникает вопрос - кто же понесёт ответственность, если применение автономной системы вооружения приведёт к нарушению МГП?
Автономная система вооружения - это машина, и она не может понести ответственность за нарушение МГП.
Возникает вопрос, выходящий за рамки ответственности тех, кто разворачивает эти системы: кто понесет юридическую ответственность, если в результате функционирования автономной системы вооружения будет совершено военное преступление - инженер, программист, изготовитель или командир, который привел оружие в действие? Если ответственность не может быть определена как того требует международное гуманитарное право, можно ли признать развертывание таких систем законным или этически оправданным?
Проблемы безопасности всегда сопровождают развитие сложных технических систем. Робототехника - не исключение. Начиная с 1979 года, зафиксировано более десяти случаев получения гибели людей при сбоях использования промышленных роботов. Но промышленные роботы системы, не имеющие целью убивать. Боевые роботы намного опаснее и меры безопасности при их использовании должны быть куда как более продуманы. Первыми над этим стали задумываться те, кто наиболее активно применяет подобные системы. Вопрос не праздный, тем более уже имеются прецеденты. 12 октября 2007 года несанкционированным огнём автоматической зенитной пушки GDF-005 «Эрликон» (Oerlikon) в Южной Африке были убиты 9 и ранены 14 военнослужащих. Чем больше будет на вооружении стран мира робототехнических систем, тем выше вероятность подобных случаев.
А 14 февраля 2016 года прецеденты с автономными роботами вышли за границы военной и промышленной сферы и стали касаться всех: впервые попал в аварию самоуправляемый автомобиль Google. В районе Маунтин - Вью, штат Калифорния, он, объезжая препятствие, столкнулся с автобусом. В дорожно-транспортной происшествии никто не погиб, но «очередной звоночек» для человечества прозвенел.
И второй вопрос, вытекающий из первого: кто несёт ответственность в случаях причинения роботами вреда своим военнослужащим или мирному населению? Разделение вины между изготовителем самого робота, разработчиком программного обеспечения для него и оператором (эксплуатирующим подразделением) системы становится актуальным как никогда. Юридически эта ситуация пока не отрегулирована.
Ещё одна спорная ситуация - это наличие морального и этического права предоставлять машинам возможность самостоятельно принимать решение на поражение объектов, в которых может находиться человек.
Но, как бы там ни было, развитие техники неизбежный процесс, его не остановить и к проблемам, которые неизбежно возникнут, нужно готовиться уже сейчас. В апреле 2013, мае 2014 и июне 2015 года вопрос поднимался на совещаниях, проводимых под эгидой ООН в рамках обсуждения развития Конвенции о запрещении или ограничении применения конкретных видов обычного оружия. Совет безопасности ООН выразил обеспокоенность и рекомендовал установить мораторий на развитие автономных боевых роботов (Lethal autonomous robotics - LAR).
Правда решение ООН - всего лишь рекомендация, оно не обязательно к исполнению. Ведущиеся в настоящее время переговоры по разработке нового соглашения наталкиваются на проблему трактовки понятий и желание каждой страны-разработчика оставить за собой право на выполнение ряда работ по данной тематике. В результате ведущие промышленные государства продолжают развитие, а иногда и практическое внедрение, автономных боевых роботов. Так в США уже доведён до стадии испытаний автономный беспилотный истребитель Х49В, в Израиле разрабатывается сеть автоматических пулемётных установок для прикрытия границы, Южная Корея разрабатывает наземный автономный боевой робот SGR -1 и т.п.
Автономная система вооружения имеет свои плюсы и минусы, имеется преимущества, а где-то опасение насчёт того, что автономная система вооружения может выйти из - под контроля, из-за чего может привести к нарушению закона войны, а также к обстрелу не только противников, но и мирного населения. А также может произойти так, что автономная система вооружения пойдёт войной на людей, в том числе на своих создателей. Но не стоит думать, что может ничего хорошего произойти со стороны автономной системы вооружения, ведь она может быть не только инструментом, но и соратником для военных, а также граждан, если вспомнить три закона робототехники писателя фантаста Айзека Азимова, звучат так: Первый закон категорически запрещает роботу вредить людям, второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух. Эти три закона начинают входить в реальность, но чтобы эти три закона могли соблюдаться роботами государству, а также учёным необходимо дальше заниматься урегулированием вопроса насчёт соблюдения норм международного гуманитарного права, а также в недопущении возникновения сбоев в программе.
автономный вооружение искусственный интеллект
Список источников
1. Дремлюга Р.И. Право и этика искусственного интеллекта : учебное пособие / Р.И. Дремлюга. - Владивосток: Издательство Дальневосточного федерального университета, 2021. - 94 с.
2. Козюлин В.Б., Ефимов А.Р. Новый Бонд - машина с лицензией на убийство // Индекс безопасности. 2016. № 1. С. 37-60.; Макаренко С.И. Робототехнические комплексы военного назначения - современное состояние и перспективы развития // Системы управления, связи и безопасности. 2016. № 2. С. 73-132.
3. Петрова Д.А., Гайворонская Я.В., Мамычев А.Ю. Смертоносные автономные системы: этические, юридические, политические проблемы и перспективы их решения // Территория новых возможностей. Вестник Владивостокского государственного университета экономики и сервиса. 2019. Т. 11. № 4. С. 33-41.
4. Автономные системы вооружения: вопросы и ответы // Международный комитет красного креста
5. Позиция МККК в отношении автономных систем вооружений // Международный комитет красного креста
6. Автономные системы вооружений: решения об убийстве или уничтожении целей - ответственность людей // Сайт МККК. 2016. 11 апреля
7. Автономные вооружения и законы войны // Валдай Международный дискуссионный клуб
8. Дополнительный протокол к Женевским конвенциям от 12 августа 1949 года, касающийся защиты жертв международных вооруженных конфликтов (Протокол I).
9. Руководство Сан-Ремо по международному праву, применимому к вооруженным конфликтам на море. Сан-Ремо, 12 июня 1994 года.
10. Три закона робототехники Айзека Азимова: к вопросу гуманности применения смертоносных автономных систем вооружения на войне // Теология. Философия. Право
11. Anderson Kenneth, Waxman Matthew C. Law and Ethics for Robot Soldiers // 176 Policy Review. 2012. 35 - 49. Р. 40; см. также: Anderson, Waxman. Law and Ethics for Autonomous Weapons Systems: Why a Ban Won't Work and How the Laws of War Can. Hoover Institution; Stanford University, 2013. Р. 8.
12. Losing Humanity the case against Killer Robots / Human rights watch
13. Schmitt M.N. Autonomous Weapon Systems and International Humanitarian Law: A Reply to the Critics // Harvard National Security Journal Features. 2013. Vol. 4 (2). P. 23.
14. Views of the International Committee of the Red Cross (ICRC) on autonomous weapon system // Convention on Certain Conventional Weapons (CCW), Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS) 11 - 15 April 2016, Geneva.
15. Олстон Ф. Промежуточный доклад Специального докладчика по вопросу о внесудебных, суммарных и произвольных казнях № A/65/321 от 23.08.2010 на Шестьдесят пятой сессии Генеральной Ассамблеи ООН // . - 27 c. - C. 14.
16. Losing humanity: The Case against Killer Robots / Human Rights Watch. - New York: Human Rights Watch, 2012. - 49 p.
17. Joint Doctrine Note 2/11 “The UK approach to unmanned aircraft systems” // Ministry of Defence of UK. - Swindon: The Development, Concepts and Doctrine Centre, 2011.
18. Сикач А.С. Автономное оружие и МГП / А.С. Сикач / . - 2023. - № 3-1. - С. 51-52.
19. Дополнительный протокол к Женевским конвенциям от 12 августа 1949 года, касающийся защиты жертв международных вооруженных конфликтов (Протокол I).
20. Щербань А.В. К вопросу о международно-правовом регулировании автономных систем вооружения / А.В. Щербань // Закон и право. - 2019. - № 2. - С. 188.
21. Три закона робототехники Айзека Азимова: к вопросу гуманности применения смертоносных автономных систем вооружения на войне // Теология. Философия. Право
22. Сикач А.С. Роль искусственного интеллекта в международном гуманитарном праве / А.С. Сикач // Аллея науки. - 2023. - Т. 1. - № 4(79). - С. 510 - 520.