Идея судей ИИ поднимает важные этические вопросы, связанные с предвзятостью и автономией. Программы ИИ могут включать в себя предвзятость их программистов и людей, с которыми они взаимодействуют. Хотя такие программы могут воспроизводить существующие предубеждения человека, отличительной особенностью ИИ является то, что он может вести себя непреднамеренным образом по мере того, как он обучается (ML). Поэтому искоренение смещения становится еще более трудным, любая программа судейства должна учитывать эти предубеждения и проверяться на нихURL: https://www.opendemocracy.net/transformation/ziyaad-bhorat/do-we-still-need-human- judges-in-age-of-artificial-intelligence (accessed: 20.02.2019)..
Предоставление ИИ полномочий по принятию решений по судебным делам также поднимает фундаментальную проблему автономии. Судьи, будучи людьми, могут быть предвзяты в определенных делах, ИИ же может быть использован для уменьшения такого рода предвзятости. Однако в отношении ИИ-судей следует отметить проблему обработки предоставленных для вынесения решения данных. Если ИИ сможет правильно определить закономерности в процессе принятия судебных решений, он, возможно, будет лучше использовать прецедент для решения или прогнозирования дел, как, например, это было отмечено при анализе недавно разработанной учеными из Лондонского университетского колледжа компьютерной программы, анализирующей данные из 584 дел в ЕСПЧ. Если ИИ сможет изучить историю дела и точно решить дела, основываясь на фактах, судьи-люди могут быть зарезервированы для вышестоящих судов, где необходимо рассмотреть более сложные юридические вопросы.
Ситуация усложняется в случае судей, которые вводят мораль в закон - это сложная задача, потому что оспариваются этические ценности и истоки морали. Например, некоторые юристы считают, что мораль исходит от Бога, природы или какого-то другого трансцендентного источника. Программирование ИИ с практическим, осуждающим пониманием этих божественных или подобных Богу источников в изменяющемся человеческом обществе является чрезвычайно сложной задачей. Более того, удивительный и непреднамеренный характер "обучения" ИИ может привести к четкой линии интерпретации, своего рода "lex искусственный". В этом случае ИИ может помогать или заменять людей в судах низшей инстанции, но судьи-люди должны сохранять свое место в качестве конечных арбитров на вершине любой правовой системы. С практической точки зрения, ИИ может помочь в изучении всей широты и глубины закона, но люди в конечном счете выберут то, что они считают морально превосходящей интерпретацией.
Американский судья Ричард Познер считает, что использование ИИ и автоматизации должно быть ограничено оказанием помощи судьям в выявлении их собственных предубеждений и поддержании последовательности. Тем не менее все более широкое использование автоматизации и процесса принятия решений ИИ в судах неизбежно повлияет на принятие человеком судебных решенийURL: https://www.opendemocracy.net/transformation/ziyaad-bhorat/do-we-still-need-human- judges-in-age-of-artificial-intelligence..
Еще один аспект в вопросе возможности полной замены судей ИИ связан с защитой и обработкой данных. Поскольку речь идет именно о вынесении судебных решений по делам, участниками которых являются физические лица, возникает проблема, связанная с обработкой персональных данных. В этой связи должны существовать строгие правила, регулирующие защиту персональных данных, а также большое значение должно быть уделено защите данных особого характера.
Поскольку данные могут передаваться практически без затрат по всему миру, вопрос о них стал проблемой, которая вращается вокруг идеи, что данные подчиняются законам и структурам управления в стране, где они собираются. В рамках Европейского Союза Регламент (ЕС) 2016/679 Европейского парламента и Совета от 27.04.2016 о защите физических лиц в отношении обработки персональных данных и о свободном перемещении таких данных и отмене Директивы 95/46/ЕСRegulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) //OJ L 119. 04.05.2016. P. 1-88. (Регламент о защите данных (GDPR)) позволяет передавать персональные данные между государствами-членами. Передача персональных данных за пределы ЕС требует, чтобы получатель соблюдал правила GDPR.
Наборы данных являются необходимым входом в алгоритмы машинного обучения (ML). Доступ к данным, а также широкий обмен ими важен для развития ИИ. Регуляторные правовые меры ЕС в отношении данных оказываются между двумя полюсами:
(а) предоставление исключительных прав в качестве стимула для производителей и владельцев данных вкладывать больше средств в их сбор и анализ и
(б) обеспечение большей доступности данных для облегчения извлечения новых данных из данных, в том числе с ИИЛ^.
Существует широкое нерегулируемое пространство между правами на персональные данные в рамках GDPR и общими правами на владение базой данных, где правят рыночный обмен данными, двусторонние контракты и меры технической защиты. Эта дискуссия варьируется от расширения эксклюзивных прав на владение данными до облегчения доступа к данным. Быстрый рост ИИ как технологии обработки данных подпитывает эту дискуссию. Нахождение нового баланса между этими двумя противоположными полюсами в дебатах требует больше социальных и политических дебатов. В связи с этим рассматриваются различные варианты, в том числе конкретное регулирование, создание нового квалифицированного права на доступ к данным или системы принудительных лицензий для предоставления доступа к данным как на горизонтальной, так и на секторальной основе. Доступ и использование данных являются основополагающими для многих приложений ИИ. Тем не менее эмпирические данные показывают, что оптимальную структуру для торговли и обмена данными еще предстоит реализовать.
На основании вышеизложенного, резюмируя все за и против ИИ в вопросе вынесения судебных решений, следует указать, что ответ на данный вопрос является неоднозначным, предполагает решения не только информационных вопросов, проблем защиты информации и информационной безопасности, защиты системы ИИ от проникновений, но также вопросов обучения ИИ, характеристик и систематизации самих данных в программах, критериев их обработки. Все эти проблемы требуют нормативного решения, определения критериев использования ИИ при вынесении судебных решений.
Библиография
1. Anand S., Sinha A., Tiwari U. Artificial Intelligence - Literature Abstract. The Centre for Internet and Society, India // URL: https://cis-india.org/internet-governance/files/ artificial-intelligence-literature-review (accessed: 20.02.2019).
2. Coppin B. (2004). Artificial intelligence illuminated. - Jones & Bartlett Learning.
3. Joint Research Centre: Artificial Intelligence. A European Perspective - URL: http://publicationsjrc.ec.europa.eu/repository/bitstream/JRC113826/ai-flagship- report_online.pdf (accessed: 20.02.2019).
4. Nilsson N. J. (1998). Artificial intelligence: a new synthesis. Elsevier.
5. Pei W. A. N. G. (2008). What Do You Mean by "AI"?. Artificial General Intelligence.
6. Russell S., Norvig P & Intelligence, A. (1995). A modern approach. Artificial Intelligence. Prentice-Hall, Egnlewood Cliffs.
7. Vincent J. (2016, February 29). What counts as artificially intelligent? AI and deep learning, explained. Retrieved // URL: https://www.theverge. com/2016/2/29/11133682/deep-learning-aiexplained-machine-learning (accessed: 20.02.2019).