Понятие искусственного интеллекта и юридическая ответственность за его работу
В.А. Лаптев
доцент кафедры предпринимательского и корпоративного права Московского го-сударственного юридического университета им. О.Е. Кутафина (МГЮА), доктор юридических наук.
Abstract
Artificial Intelligence and Liability for its Work
Vasiliy A. Laptev
Assistant Professor, Department of Entrepreneural and Corporate Law, Moscow State Legal University, Doctor of Juridical Sciences.
Industrial revolution transformed idea of ways and means of production. Introducing robots in the real sector of economy became inevitable process. Degree impact of the person on production cycle decreases gradually and replaced by programs determining behavior of robots and a mentality of artificial intelligence by digital algorithms. Primary researches of artificial intelligence have found reflections in works of software engineers.
The legal treatment of the nature of artificial intelligence and a regulation of his use became the big task for domestic jurists. The analysis of possible approaches to disclosure of the concept “artificial intelligence” as legal category and his ratio with the concepts of robot and cyberphysical system is provided in the article. Issues of liability for work of artificial intelligence are revealed. The possibility of recognition for the robot (car) with artificial intelligence, status of a legal entity is studied. The possibility of recognition of legal personality of artificial intelligence in cyberphysical space is separately considered. Work purpose is to offer ways of development of the legislation in the conditions of digitalization of Russian economy and introduction of artificial intelligence. Methods of analysis, synthesis, generalization, induction and deduction, interpretation, classification and comparative methods were used. The research will allow to improve legal regulation of artificial intelligence in economy. Author's look to disclosure of categories of artificial intelligence, intellectual systems and robot from a position of Russian law is offered. Mechanisms of attraction to legal responsibility of appropriate subjects of the right are defined. Author allocates three stages: short-term, medium-term and long-term temporary prospects of development of the legislation defining legal capacity of the robot and artificial intelligence in cyberphysical space, the maintenance of the cyberphysical relations and also the bases of attraction to legal responsibility of participants of the considered relations. Legal regulation of economic activity with use of artificial intelligence has to be based on the principle of convergence of technology and rules of law.
Keywords: artificial intelligence, machine intelligence, digital economy, right of robots, digital right, legal personality of the robot, cyberphysical relations, liability, cyberphysical responsibility, distributed register.
Аннотация
Промышленная революция трансформировала понятие о способах и средствах производства. Внедрение искусственного интеллекта и роботов в реальном секторе эко-номики стало неизбежным. Степень воздействия человека на ход производственного цикла постепенно уменьшается и заменяется программами, определяющими по циф-ровым алгоритмам поведение роботов и образ мышления искусственного интеллекта. Правовая оценка природы искусственного интеллекта и регламентация порядка его использования стала важнейшей задачей современного отечественного правоведе-ния. В статье дан анализ возможных подходов к раскрытию понятия «искусственный интеллект» как правовой категории и соотношения его с понятиями «робот» и «кибер-физическая система». Раскрываются вопросы юридической ответственности за рабо-ту искусственного интеллекта. Изучается возможность признания у робота (машины), обладающего искусственным интеллектом, свойств субъекта права.
Рассматривается возможность признания правосубъектности искусственного интеллекта в киберфи- зическом пространстве. Цель работы: предложить пути развития законодательства в условиях цифровизации российской экономики и внедрения искусственного интел-лекта. Использовались метод анализа, синтеза, обобщения, статистики, индукции и дедукции, интерпретации, классификации и сравнительный методы. Предложен под-ход к раскрытию категорий «искусственный интеллект», «интеллектуальные системы», «нейротехнологии» и «робот» с позиции российского права. Определены механизмы привлечения к юридической ответственности соответствующих субъектов права. Вы-делены краткосрочная, среднесрочная и долгосрочная перспективы развития законо-дательства, определяющего правоспособность робота и искусственного интеллекта в киберфизическом пространстве, содержание киберфизических отношений, а также основания привлечения участников рассматриваемых отношений к юридической от-ветственности. Правовое регулирование предпринимательской и иной экономической деятельности с использованием искусственного интеллекта должно основываться на конвергенции технологии, программирования и права.
Ключевые слова: искусственный интеллект, машинный интеллект, цифровая экономика, право роботов, цифровое право, правосубъектность робота, киберфизические отношения, юридиче-ская ответственность, киберфизическая ответственность, распределенный реестр.
Введение
искусственный интеллект производственный
Современные исследования правоведов все чаще затрагивают проблема-тику регулирования экономических отношений в условиях развития циф-ровых технологий. Мир меняется, меняются и сущностные характеристики общественных отношений. Правоведы непременно стараются дать оценку любому явлению в жизни общества с точки зрения норм права, нередко ис-пользуя категорию «правовое явление». Вместе с тем многие явления дале-ки от регулятивной силы права. Современные общественные отношения в условиях развития цифровых технологий свидетельствуют о неготовности или же неспособности законодательства регулировать отдельные аспекты складывающихся общественных отношений. Рассматриваемые отношения характеризуют как киберфизические правоотношения, урегулированные нормами цифрового права (киберфизического права). При этом термин «цифровое право» используется в качестве условной правовой категории, обозначающей совокупность норм права, регулирующих любые отноше-ния с «цифровым элементом» (предпринимательские, административные, гражданские и другие отношения), не образующих самостоятельной отрас-ли права. Элементы цифрового права содержит каждая отрасль права (элек-тронная торговля в предпринимательском праве, электронное правосудие в арбитражном процессуальном праве, цифровое межведомственное взаимо-действие в административном праве и т.д.).
В статье сделана попытка раскрытия понятия искусственного интеллекта как правовой категории, его аунтификации, а также определяются возмож-ные пути развития отечественного законодательства в части юридической ответственности за его работу. Период изучения искусственного интеллек-та и научного моделирования образа его мышления начался лишь в сере-дине ХХ века. Промышленные роботы выступили лишь третьим этапом (Industry 3.0), в то время как, искусственный интеллект и киберфизические системы стали четвертым этапом промышленной революции (Industry 4.0).
Актуальность настоящего исследование обусловлена выбранным руко-водством России и других стран Евразийского экономического союза кур-сом на развитие цифровой экономики, в том числе с использованием искусственного интеллекта (решение Высшего Евразийского экономического совета от 11.10.2017 №12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года», Указ Президен-та Российской Федерации от 1.12.2016 № 642 «О Стратегии научно-техноло-гического развития Российской Федерации, распоряжения Правительства от 23.03.2018 № 482-р и от 28.07. 2017 № 1632-р и др.). Множество вопросов по данной проблематике обсуждается на профильных сайтах в Интернете и на международных конгрессах.
В отсутствии государственного регулирования деятельности искусствен-ного интеллекта видится эффективным саморегулирование, удачным при-мером которого выступает Partnership on AI -- партнерство в поддержку продвижения искусственного интеллекта, в состав которого входят Amazon, Intel, Sony, Apple, Ebay, Google, IBM, Facebook, Microsoft и другие.
В России первые попытки узаконить «право роботов» связаны с рас-смотрением законодательными органами проекта Модельной конвенции о робототехнике и искусственном интеллекте [Незнамов А., Наумов В., 2017: 1-12], разработанной Исследовательским центром проблем регулирования робототехники и искусственного интеллекта. Разумно предложение о рассмо-трении в качестве субъектов рассматриваемых отношений широкого круга лиц, включая исследователей, разработчиков, лиц, финансирующих исследо-вания и разработки в сфере робототехники, производителей, собственников, владельцев, операторов роботов, органов государственной власти и любых ре-гулирующих органов, а также пользователей и иных лиц, взаимодействующих с роботами и киберфизическими системами, в том числе с искусственным интеллектом (ст. 1). Объектами робототехники признаются любые роботы, а также киберфизические системы с искусственным интеллектом в любой фор-ме (ст. 2). Данной конвенции во многих ее аспектах робот (как объекта мате-риального мира) и искусственный интеллект отождествляются.
В настоящее время коллективами ученых различных специальностей раз-рабатывается Цифровой кодекс России [Илющенко Р., Башелханов И., 2018: 1]. Заслуживают внимание предложения В.В. Архипова и В.Б. Наумова допол-нить ГК РФ понятием «робот» -- устройство, способное действовать, опре-делять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека [Архипов В.В., Наумов В.Б., 2017: 46-62]. Небеспочвенно предложение авторов о признании за роботами-агентами правосубъектности и возможности их участия в силу конструктивных особенностей в современных отношениях.
Официальное признание за роботом с развитым искусственным интел-лектом свойств субъектов права (участником общественных отношений) впервые состоялось в Саудовской Аравии, где человекоподобному роботу, спроектированному в Китае, дали гражданство. Следовательно, можно гово-рить о киберфизических отношениях, требующих правовой регламентации.
Понятие искусственного интеллекта
В известной степени понятие «искусственный интеллект» (AI) является одновременно изученной и дискуссионной научной категорией, по-разному, определяемой учеными различных специальностей. Так, по мнению Г.С. Оси-пова, искусственный интеллект выступает предметом компьютерных наук, а создаваемые на ее основе технологии являются информационными техноло-гиями, позволяющими совершать разумные рассуждения и действия с помо-щью вычислительных систем и иных искусственных устройств [Осипов Г.С., 2001: 3-13].
В правоведении, в частности, П.М. Морхатом, искусственный интеллект раскрывается как полностью или частично автономная самоорганизующая (са-моорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система, наделенная/об- ладающая способностями и возможностями мыслить, самоогранизовываться, обучаться, самостоятельно принимать решения и т.д. [Морхат П.М., 2017: 69].
Искусственному интеллекту, очевидно, противопоставляется естествен-ный интеллект человека и других животных организмов. Но не у каждого робота есть искусственный интеллект, ибо только интеллект позволяет рас-суждать, обучаться и принимать самостоятельные решения. На начальном этапе развития робототехники промышленные и иные роботы действовали исключительно по заданным программой алгоритмам. Впоследствии цифро-вые технология и программные комплексы сделали возможным создание и развитие искусственного интеллекта. Робота справедливо отграничивают от киберфизической системы, существование которой возможно в виде компью-терной программы, работающей на базе процессора соответствующей ЭВМ.
Искусственный интеллект может существовать отдельно от машины (ро-бота) только в цифровом виде -- в виде киберфизической системы и иных искусственных систем, позволяющий моделировать соответствующие действия. Собственно, именно в этом заключается трудность определения грани между программным алгоритмом и искусственным интеллектом, поскольку традици-онно интеллект (творческая возможность) свойственен только биологическим организмам. В частности, по методическим рекомендациям Минобрнауки Рос-сии о признании результатов интеллектуальной деятельности единой техноло-гией от 1.04.20106, интеллектуальная деятельность -- это умственная, мысли-тельная, познавательная и творческая деятельность человека.
Еще недавно предполагалось, что искусственный интеллект -- это зало-женное в памяти программы решение, т.е. не новое решение (творческая функция), а алгоритм, содержащий решение в вычислительной программе. Видится интересным раскрытие данной категории в нормативных актах, по-священных техническому регулированию. Так, искусственный интеллект -- моделируемая (искусственно воспроизводимая) интеллектуальная деятель-ность мышления человека (п. 3.17. ГОСТ Р 43.0.5-2009 «Информационное обеспечение техники и операторской деятельности. Процессы информа-ционно-обменные в технической деятельности. Общие положения»). При этом под интеллектом понимается способность субъекта (оператора) к от-влеченному мышлению, абстрагированию, позволяющая с возникновением самосознания и рефлексии использовать имеющуюся у него информацию некоторым полезным целенаправленным образом (п. 3.10). При таком рас-крытии понятия «искусственный интеллект» используются его практиче-ские свойства как явления в информационно-обменном процессе.
В ГОСТ Р 43.0.5-2009 формы «человекоинформационного» взаимодей-ствия (взаимодействие человека с информацией) разделяются на три вида: 1) естественно-интеллектуализированное, осуществляемое с использовани-ем возможностей собственной мыслительной деятельности человека; 2) ги- бридно-интеллектуализированное, осуществляемое с использованием ма-шинно-активизированной (компьютерно-активизированной) мыслительной деятельности; 3) искусственно-интеллектуализированное, осуществляемое с использованием активизации мышления искусственно имитируемой (ма- шинно-имитируемой) мыслительной деятельностью.
В начале развития робототехники предполагалось, что робот выполняет действия только по ранее заданным программой алгоритмам. Искусствен-ный интеллект -- это следующая стадия развития робототехники и про-граммирования (их особая часть), наделяющая способностью робота само-стоятельно принимать «новое» решение, ранее не заложенное в программе. Современные вычислительные программы наделяют возможностью искус-ственного интеллекта выработать самостоятельное цифровое решение (ки-бер-решение), которое впоследствии может воплотиться действиями робота в материальном мире либо командами киберфизической системы в вирту-альном пространстве. Ярким примером искусственного интеллекта в виде программы для ЭВМ, то есть в цифровой форме (в отрыве от материального воплощения), выступает IBM Watson, используемая в бизнес-процессах.