С этим связаны, как минимум, такие риски:
— нехватка времени для принятия осмысленных решений,
— недостаточный контроль над ситуацией со стороны человека,
— принятие стратегических решений на основе математических алгоритмов и систем машинного обучения, а не человеческой логики,
— отсутствие взаимопонимания между машиной и человеком.
Нейронные сети пока не в состоянии объяснить закономерности своей работы на человеческом языке.
Справедливости ради следует отметить, что глобализация и развитие трансграничных проектов, социальных сетей, транснациональных корпораций, международной кооперации, спутников наблюдения, радиоэлектронных средств слежения сделали мир более прозрачным. В мире появилось много сигнальных датчиков, которые сообщают о появлении новых угроз еще до того, как они материализуются.
Относительно ответственности за причинение ущерба автономными интеллектуальными системами вооружений МГП, в частности его положения, касающиеся ответственности государств, не содержит никаких прямых указаний относительно того, как следует трактовать использование автономных интеллектуальных систем вооружений, но в то же время и не устанавливает напрямую, что государство не несёт ответственности за действия таких систем.
Джон Уивер отмечает, что стандарт применения АИСВ, согласно которому они должны никогда не ошибаться при различении комбатант ов и гражданского населения, кажется не совсем корректным, так как даже люди не всегда могут его придерживаться.
Применение автономных систем вооружений порождает риски, вызванных тем, что его последствия сложно прогнозировать и ограничивать. Утрата человеком контроля и невозможность учёта его мнения в случае применения силы и оружия вызывают серьёзную озабоченность с гуманитарной, правовой и этической точек зрения.
Сам процесс функционирования автономных систем вооружений:
- Порождает риск причинения ущерба всем, кого затрагивает вооружённый конфликт,
- как комбатантам, так и гражданским лицам, - а также увеличивает опасность его эскалации;
- Создаёт серьёзные трудности с соблюдением норм международного права, в том числе международного гуманитарного пр ава, а именно норм, призванных защитить гражданских лиц при ведении военных действий;
- Поднимает вопросы, вызывающие серьёзную озабоченность этического характера в том, что касается гуманности, фактически предоставляя датчикам, программам и машинным процессам принимать вместо человека решения, от которых зависит жизнь и смерть людей.
Российские военные эксперты создали классификацию, в соответствии с которой автономное оружие подразделяется на следующие виды:
1) боевые роботы 1-го поколения с программным и дистанционным управлением, способные функционировать только в организованной среде (например, боевые беспилотные летательные аппараты, которые полностью управляются человеком с земли);
2) боевые роботы 2-го поколения - адаптивные, имеющие своего рода «органы чувств» и способные функционировать в заранее неизвестных условиях, т.е. приспосабливаться к изменениям обстановки (частично управляются человеком при взлёте, заправке и загрузке боеприпасов и иной надобности, допускают человеческое вмешательство);
3) боевые роботы 3-го поколения - интеллектуальные, имеют систему управления с элементами искусственного интеллекта (созданы пока лишь в виде лабораторных макетов).
Что касается роботов 3 поколения, то многие считают, что это всего лишь из области фантастики, но факты о существовании и применении роботов 3 поколения, вынуждающие вернуться к реальности.
Миротворческая общественная организация PAX (МИР) указывает на несколько реально существующих моделей оружия, способных работать на земле, под водой и в воздухе в автономном режиме без прямого управления человеком:
1) наземный стационарный робот SGR-A1, оснащён гранатомётом и автоматом, разработан южнокорейской компанией для контроля границы с Северной Кореей. Благодаря инфракрасным датчикам и программе распознавания движений робот может отслеживать злоумышленников и открыть по ним огонь как в автоматическом, так и в управляемом режиме;
2) израильская разработка «Гарпия» - ракета, выпускаемая с наземного транспортного средства. Автоматически обнаруживает, атакует и уничтожает вражеские радиолокационные излучатели. Может проводить в воздухе до 9 часов в поисках цели;
3) беспилотный стелс самолёт «Нерон», разрабатываемый Францией может находиться в автономном режиме более 3 часов, предназначен для обнаружения и разведки наземных целей. Способен автоматически атаковать, самостоятельно устанавливая цели.
4) Американская автономная подводная лодка «Морской охотник» - предназначена для слежения за вражескими подводными лодками, может работать без контакта с оператором в течение 2 - 3 месяцев.
Исследователи РАХ уверены, что подобные технологии способствуют созданию боевых роботов - убийц в течение долгих, а не десятилетий, как считалось ранее.
Примером современного уровня развития военных технологий, основанных на ИИ, может служить система ИИ Alpha, разработанная компанией Psibernetix (основана выпускниками Университета Цинциннати, США). Alpha победила в имитационном воздушном бою на симулятора военного эксперта - полковника ВВС в отставке Джина Ли, который в должности эксперта занимается обучением военных пилотов и тестирует подобные системы больше 30 лет. Эксперту ни разу не удалось поразить компьютерного противника и не удалось уйти. Alpha испытывали и другие военные пилоты, которые также потерпели поражение.
Следует здесь отметить, что наука движется вперёд, многие страны мира разрабатывают автономные изобретения, играющие роли не только в жизни общества, но и государства, а также в вооружённых силах. Благодаря многим учёным автономные военные вооружения будут помощниками для военных, а также для того или иного государства в целом.
Сама идея использования автономного военного вооружения вызывает интерес множества государств. В докладе Human Rights Watch (HRW), опубликованном в ноябре 2012 г., приведены шесть стран, которые ведут активную разработку автономных видов вооружений: США, Китай, Израиль, Южная Корея, Россия и Великобритания. Кроме того, системы оружия с определённой степенью автономности также разрабатываются и используются в Австралии, Франции, Германии, Индии, Нидерландах, Норвегии, Южной Африке, Швеции и Украине. Это означает, что АСВ набрало настолько больше популярности, что она не оставляет никакого сомнения насчёт её эффективности в её использовании. Положительным результатом этого факта является следующее:
I. Поможет минимизировать количества потери личного состава вооружённых сил, благодаря чему снизит затраты государства как на жалованье госслужащим, так и на социальные статьи расходов (например, выплаты из-за военной травмы).
II. Оснащение автономными системами вооружения ударных беспилотных летательных аппаратов (БПЛА) наподобие MA-9 Reaper позволит свести на нет «человеческий фактор» при нанесении точечных авиаударов по цели. В силу отсутствия эмоциональной составляющей у ИИ исчезнут ситуации, когда оператор, испытывая моральные страдания и чувство жалости, не открывает огонь по противнику, либо, наоборот, в пылу ненависти и агрессии по отношению к противнику допускает излишние жертвы, в том числе и среди мирного населения.
III. Некоторые автоматические системы, управляемые ИИ, превосходят аналогичные системы, которые находятся под управлением человека, в скорости определения цели и нанесении удара по ней, что позволяет сократить срок выполнения задачи. Важным примером может служить «automatic weapons defense systems», в том числе зенитно - артиллерийские комплексы с автоматической системой наведения, используемые для защиты военных кораблей от угрожающих им ракет.
В - четвёртых, введение АСВ в состав вооружённых сил, на мой взгляд, создаст дополнительные рабочие места и позволит «информатизировать» экономику. Согласно данным International Data Corporation объём продаж роботов и дронов разного назначения в 2018 г. выросло в мира на 22,1% по сравнению с 2017 г. и достигла 103,1 млрд долларов.
В 2020 году произошёл военный конфликт в Нагорном Карабахе, в боевых действиях которого участвовали постоянные армии Азербайджана и Армении. В боевых действиях применялись ударные беспилотные аппараты, и их эффективность была подтверждена многократно видеокадрами. Наряду с вооружениями стороны применили перспективные виды вооружений - разведывательные и ударные беспилотные средства. Во время конфликта обе стороны применяли автономные вооружения. Например, Азербайджан использовал беспилотные летательные аппараты (БПЛА) различных типов:
- Турецкие ударные аппараты Bayraktar ТВ2 с высокоточными ракетами и бомбами;
- Несколько видов «дронов - камикадзе» малого размера, в частности барражирующие боеприпасы Sky Striker, Harop, Orbiter-1K и Orbiter-3. Некоторые из них наводятся на радиоизлучение радаров ПВО, другие полагаются на оптические, инфракрасные и иные датчики;
- Израильские разведывательно-дозорные беспилотники Heron TP и Hermes 4507;
- Переделанные под БПЛА древние бипланы Ан-2 в качестве приманки для ПВО, которая обстреливала их и тем самым выдавала свои позиции.
Армения располагала арсеналом небольших беспилотников местного производства, пригодных для разведки и наведения артиллерийского огня, но не для ударных операций: дроны X-55, «Крунк» и «Базе».
Автономная система вооружения имеет много преимуществ в применении для вооружённого конфликта, но многие хотят приостановить производство автономного вооружения. Ведь проблемой применения автономного вооружения состоит в установлении того, как и кем будут соблюдаться нормы международного гуманитарного права. Сможет ли робот провести должное различие между комбатантом и некомбатантом? Для соблюдения норм МГП необходимо, чтобы машины могли адекватно «оценивать» обстановку, оперативно реагировать на её изменения, действовать в соответствии с конкретными обстоятельствами.
Уровень автономности военного вооружения может нести в себе угрозу постоянного ослабления контроля человека за применением силы, что является недопустимым. Применение автономного вооружения может быть разрешено только, если они будут соблюдать принципы МГП. Для этого необходимо в соответствующие механизмы вооружения заложить в обязательном порядке информацию о нормах МГП и алгоритм их неукоснительного соблюдения.
Конкретной нормы, которая относится к автономным система вооружения, не существует. Согласно ст. 36 Дополнительного протокола № 1 к Женевским конвенциям: «При изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов введения войны Высокая Договаривающаяся Сторона должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в настоящем Протоколе или в каких - либо других нормах международного права, применяемых к Высокой Договарив ающейся Стороне». Давно установившиеся нормы МГП, регулирующие ведение военных действий, в частности, принципы различения целей, соразмерности и принятия предосторожностей при нападении, относятся ко всем новым видам оружия и техническим инновациям в области ведения войны, в том числе, и к автономным системам вооружения.
Самая трудная задача для любого государства, разрабатывающего автономную систему вооружения, заключается в том, чтобы обеспечить её способность функционировать в соответствии со всеми этими принципами. Например, как такое оружие может проводить различие между гражданским лицом и комбатантом, как того требует принцип различения целей. Ведь от
такого оружия может потребоваться, чтобы оно различало комбатантов, которые активно принимают участие в военных действиях, и теми, кто выбыл из строя или сдающимися в плен, а также между гражданскими лицами, принимающими непосредственное участие в вооружённых столкновениях и вооружёнными гражданскими лицами - такими как сотрудники правоохранительных органов или охотники - которые остаются под защитой и по которым нельзя наносить удар. Также автономной системе вооружения необходимо будет действовать в соответствии с принципом соразмерности, согласно которому случайные потери среди гражданского населения, ожидаемые в результате нанесения удара по военному объекту, не должны быть чрезмерными по сравнению с предполагаемым конкретным и непосредственным военным преимуществом.
Иными словами, государства, прежде чем принять на вооружение те или иные АСВ, должны предварительно удостовериться в том, что их применение не вступить в противоречие с основополагающими принципами МГП, такими, как различение целей, соразмерность и принятие предосторожностей при падении.
Так, пункты 38, 39, 42 и 46(а, b) части 3 «Основные правила и различение целей» Руководства Сан-Ремо по международному праву, применимому к вооружённым конфликтам на море гласят:
38. В любом вооруженном конфликте право сторон выбирать средства или методы ведения войны не является неограниченным.
39. Стороны, участвующие в конфликте, всегда проводят различие между гражданскими или другими покровительствуемыми лицами, с одной стороны, и комбатантами -- с другой, а также между гражданскими или другими пользующимися защитой объектами и военными объектами.
42. В дополнение к любым конкретным запретам, обязательным для сторон, участвующих в конфликте, запрещается применение таких средств и методов ведения войны, которые:
a) по своему характеру причиняют излишние повреждения или излишние страдания; или
b) имеют неизбирательное действие, проявляющееся в том, что:
i) они не нацелены или не могут быть нацелены на конкретный военный объект; или
ii) их действие не может быть ограничено, как это требуется в соответствии с нормами международного права, отраженными в наст оящем документе.