В условиях пандемии, когда люди готовы рисковать, чтобы сохранить жизни миллионам, часто не задумываются об опасности сиюминутного соблазна использовать технологии ИИ. В этом состоит основная угроза использования ИИ, и государства должны обеспечить контроль за управляемым использованием ИИ в той или иной сфере. Необходимо проработать систему недопустимости принятия решения исключительно одним человеком. Не случайно в Национальной стратегии развития искусственного интеллекта на период до 2030 г., утв. Указом Президента РФ от 10.10.2019 № 490, презюмируются «недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта».
Развитие ИИ в условиях пандемии будет иметь далеко идущие последствия для трансформации как реального сектора экономики, так и социальной сферы, государственного управления, а также для глобального управления. При стремительном развитии ИИ необходимо придавать большое значение возможным рискам и угрозам безопасности, укреплять перспективные рекомендации по их предотвращению и ограничению, минимизировать риски и обеспечить безопасную, надежную и контролируемую разработку ИИ.
Во время пандемии ключевыми проблемами становятся борьба с ней, предотвращение ее дальнейшего распространения и сохранение жизни людей. ИИ позволяет прогнозировать возникновение и распространение пандемий, однако такие технологии обязательно должны использоваться под жестким контролем со стороны государства или саморегулируемых организаций, специализированных ква- зипубличных субъектов, в отношении которых государство делегировало полномочия sui generis, в том числе в рамках экспериментальных правовых режимов. Любой прогноз во время пандемии связывается со значительными рисками экономических, социальных и технических потерь. В связи с этим важно на государственном уровне разработать механизм реализации пандемического прогнозирования и контроля за его достоверностью и обоснованностью. Использование ИИ в этом случае возможно с обязательным участием экспертов и квалифицированной экспертной оценкой прогнозов.
Применение ИИ в сфере здравоохранения также имеет огромное значение. В Указе Президента РФ от 21.07.2020 № 474 «О национальных целях развития России до 2030 г.» основными национальными целями для осуществления прорывного развития России определены сохранение населения, здоровье и благополучие людей, цифровая трансформация, безопасная среда для жизни. Внедрение ИИ в сфере здравоохранения, безусловно, направлено на достижение указанных национальных целей.
Важное направление в сфере регулирования ИИ в условиях пандемии -- обеспечение информационной безопасности в сфере использования ИИ. Обеспечение конфиденциальности информации, обрабатываемой с помощью данной технологии, особенно важно в рамках обработки медицинской информации, в том числе составляющей врачебную тайну, а также персональных данных, включая биометрические и персональные данные специальной категории (сведения о состоянии здоровья гражданина).
Наибольшую опасность представляет использование информации различными роботами, специализированными системами сбора и обработки персональных данных, а также их обработка с использованием технологии больших данных.
Персональные данные уже используются огромным количеством устройств по всему мире, и их число экспоненциально растет с распространением интернета вещей и промышленного интернета (Минбалеев и др. 2019, 203-204). Увеличение объемов обрабатываемой информации в условиях пандемии не позволяет справиться с ней при помощи только автоматизированных систем обработки информации, операторы вынуждены прибегать к более современным системам ИИ.
Пандемия актуализирует и этические вопросы ИИ. В современном обществе этика и право тесно переплетаются. Этика ИИ -- часть этики технологий, характерной для роботов и других искусственных когнитивных систем. Боты на основе ИИ, моделирующие голос человека, могут направлять человеческое внимание и формировать новые акценты восприятия информации. Психологическая поддержка на основе социального моделирования важна в условиях пандемии, но следует понимать, что это автоматизированная поддержка, которая должна подталкивать людей к более полезному и безопасному поведению. В связи с этим необходимо тестирование технологий ИИ для обнаружения соответствующих правильных паттернов, а также тщательное изучение реакции машины. Это важно в целях минимизации негативных последствий использования ИИ, в том числе этических. В то же время систему ИИ нельзя натренировать на все ситуации, возникающие при взаимодействии с человеком. Отдельный этический вопрос применения ИИ -- распознавание лиц, идентификация и аутентификция, в частности по видеозаписям. Вероятность ошибки при распознавании лиц достаточно высока. В ситуации обеспечения самоизоляции и социального дистанцирования неправильное распознавание лиц и применение санкций «по ошибке» порождает негативное восприятие гражданами технологий ИИ. Общественные ценности влияют на отношение к ИИ и его юридическому оформлению. Переосмысление роли роботов в общественной жизни ставит задачу гуманного подхода к правовому регулированию использования ИИ. Концептуальный подход состоит в том, что автономные интеллектуальные системы не должны нести ответственности за свои действия. Тем не менее необходимо решить вопрос о введении ответственности, ее юридическом обосновании и закреплении.
В условиях коронавирусной инфекции COVID-19 важно предпринять следующие шаги, направленные на правовое регулирование использования ИИ:
совершенствование федерального законодательства, обеспечивающего возможность создания «регуляторных песочниц» -- экспериментальных правовых режимов на территории РФ, в том числе Федерального закона от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»; важно усилить контроль за безопасностью использования технологий ИИ в целях недопущения вреда жизни и здоровью граждан, нарушения прав и свобод человека и гражданина;
разработка и принятие изменений в Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» (далее -- Закон о персональных данных), а также, в случае необходимости, в иные федеральные законы в части возможности свободного обезличивания персональных данных и последующего использования обезличенных данных, в том числе для целей развития технологий ИИ, при обязательном контроле недопущения вреда жизни и здоровью граждан, нарушения прав и свобод человека и гражданина; обеспечение особого порядка доступа к данным, собираемым государственными органами, для целей их обработки с использованием ИИ, в том числе введение специальных требований к обработке данных с использованием ИИ в условиях пандемии и специальных административных режимов; правовой искусственный интеллект
обеспечение возможности свободного использования больших массивов данных, в том числе персональных, исследователями в сфере ИИ и разработчиками технологий ИИ при условии обезличивания данных, подтвержденных Роскомнадзором в специальном порядке, и соблюдения условий по недопущению вреда жизни и здоровью граждан, нарушения прав и свобод человека и гражданина; в Законе о персональных данных важно установить требования о необходимости прекращения обработки персональных данных с использованием технологий ИИ по заявлению субъекта персональных данных, о недопущении дискриминации человека при обработке информации ограниченного доступа (в том числе персональных данных, биометрических данных, генетической информации) системой ИИ;
разработка и принятие дополнений в Кодекс РФ об административных правонарушениях, в частности норм, устанавливающих ответственность за нарушение порядка обработки персональных данных в связи с использованием ИИ, а также отдельного состава о нарушении прав на персональные данные в условиях пандемии и введения специальных административных режимов;
внесение дополнений в Федеральный закон от 23.08.1996 № 127-ФЗ «О науке и государственной научно-технической политике» в части создания условий и гарантий обеспечения особых режимов для доступа к базам данных, полученных в результате сбора и обработки с использованием ИИ, в целях проведения научных исследований, создания новых технологий ИИ и разработки технологических решений на их основе;
внесение дополнений в Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» в части регулирования государственных информационных систем и закрепление нормы о том, что режим государственных информационных систем, функционирующих на основе ИИ, устанавливается специальным федеральным законом. Также важно принять специальный федеральный закон «Об информационных системах, функционирующих на основе искусственного интеллекта», в котором будет установлен правовой режим таких систем, в том числе государственных и муниципальных информационных систем, закреплен особый режим делегирования информационным системам, функционирующим на основе ИИ, возможности принятия отдельных решений (за исключением решений, которые могут причинять вред жизни или здоровью граждан, ущемлять права, свободы и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением решений, которые могут причинять вред жизни или здоровью граждан, ущемлять права, свободы и законные интересы граждан). Также в нем предлагается установить требования к функционированию подобных информационных систем, возможность оперативного вмешательства для прекращения реализации принятия отдельных решений, нормы об ответственности за нарушение требований закона. Особые положения должны быть предусмотрены относительно функционирования таких систем в условиях специальных административных режимов при пандемии;
внесение изменений и дополнений в налоговое законодательство в части установления специальных налоговых режимов для организаций, осуществляющих разработки технологий и решений на основе ИИ, в том числе используемые в противодействии пандемии;
совершенствование налогового законодательства, направленного на стимулирование привлечения инвестиций посредством совершенствования механизмов совместного участия инвесторов и государства в проектах, связанных с разработкой технологий ИИ и робототехники,
внесение изменений и дополнений в таможенное законодательство в части установления специального таможенного режима в отношении организаций, осуществляющих экспорт продукции (работ, услуг) гражданского назначения, созданной на основе ИИ (Минбалеев и др. 2019, 336-338).
Кроме того, важно развивать предпринимательское законодательство, в том числе в части развития инвестиционных норм, направленных на стимулирование привлечения инвестиций инвесторами посредством внедрения механизмов государственной поддержки совместного участия инвесторов и государства в проектах, связанных с разработкой технологий ИИ, а также предоставления целевой финансовой поддержки, в том числе иностранным гражданам и организациям, осуществляющим деятельность по развитию и внедрению технологий ИИ. Весьма значимы разработка и принятие нормативных правовых актов, признающих отдельные системы ИИ или виды роботов источником повышенной опасности и предусматривающих систему обязательного страхования ответственности за их действия. В условиях чрезвычайных ситуаций эта норма особенно важна, поскольку риски причинения вреда в такой период многократно увеличиваются из-за ослабления контроля за ними со стороны человека. В развитие данных предложений необходимо внести изменения в Федеральный закон от 25.04.2002 № 40-ФЗ «Об обязательном страховании гражданской ответственности владельцев транспортных средств» с целью обязательного страхования отдельных категорий роботов и систем ИИ (Минбалеев и др. 2019, 337-340).
Заключение
Для обеспечения эффективного использования ИИ в условиях пандемии нет необходимости в принятии специального закона, но для защиты прав граждан важно внесение изменений в ряд нормативных правовых актов. В условиях пандемии в некоторых сферах общественной жизни формируется кризисная ситуация, требующая активно использовать ИИ при отсутствии должного правового регулирования. Так, сбор и обработка данных с использованием городских камер, систем отслеживания в рамках геолокации и др. требуют регулирования механизмов ограничения прав человека и гражданина, получения согласия на обработку данных с использованием ИИ. В связи с этим очень важно разработать Национальный стандарт РФ в сфере использования ИИ, закрепляющий дефиниции основных понятий (искусственный интеллект, технологии искусственного интеллекта, системы искусственного интеллекта, виды систем искусственного интеллекта), критерии классификации и виды, технологии ИИ. Также необходимо принять Национальный стандарт РФ в сфере использования ИИ в условиях действия специальных административных режимов при пандемии.
Приказом Федерального агентства по техническому регулированию и метрологии от 05.03.2021 № 120-ст утвержден и введен в действие первый национальный стандарт в области ИИ для ситуационной аналитики. «ГОСТ Р Информационные технологии. Искусственный интеллект. Ситуационная аналитика. Термины и определения» является первым в группе стандартов, устанавливающих нормативные требования в области ситуационной видеоаналитики, регламентацию размещения оборудования технических систем интеллектуального видеонаблюдения.