УДК 1/004.8
Одесский национальный университет имени И.И. Мечникова
ХЬЮБЕРТ Л. ДРЕЙФУС ПРОТИВ ДЭНИЭЛА К. ДЕННЕТТА В КИНОФИЛЬМЕ
Райхерт К.В.
В 2014 году на экраны кинотеатров вышел ремейк культового научно-фантастического боевика 1987 года, поставленного нидерландцем Паулем Верхувеном,
- Robocop («Робот-полицейский» или «Робокоп»). Кинофильм Robocop (2014), поставленный бразильским режиссёром Жозе Падильей по сценарию Джошуа Зэту- мэра, повествует о том, как на полицейского детектива Алекса Мёрфи (его роль играет Юэль Киннаман) в ходе расследования дела о связи продажных полицейских с торговцами оружия совершается покушение на убийство: его взорвали вместе с его автомобилем возле его собственного дома. Из-за 80% повреждений тела (по сути, уцелели только мозг, лёгкие, сердце и часть правой руки) находясь при смерти, А. Мёрфи подвергается киборгизации и становится Роботом-полицейским, гибридом человека и робота, борцом с преступностью.
На кинофильм сразу же откликнулись некоторые гуманитарии и философы своими интернет-публикациями. Так, например, Мэтью Э. Джонсон заметил, что «Robocop (2014) ставит мысленный эксперимент, в котором Алекс Мёрфи не больше чем человеческий мозг, помещённый в тело робота. Вопрос, который поднимается в фильме, состоит в том, сводима ли личность только к мозгу, телу или чему- то нефизическому, подобному разуму или душе» [14]. М. Э. Джонсон отметил в кинофильме любопытную отсылку к философии сознания: доктора, создающего Робота-полицейского, зовут Деннетт Нортон - отсылка к философу Дэниэлу К. Ден- нетту, американскому философу и когнитивисту, автору модели многопроектности сознания; а сенатора, который выступает против использования роботов в полиции США, зовут Хьюберт Дрейфус - отсылка к Хьюберту Л. Дрейфусу, американскому философу, известному критику искусственного интеллекта [14]. Занимательно, что на этот момент обратил внимания американский философ Алва Ное, который, кстати, сообщил, что он ходил в кинотеатр на кинофильм Robocop (2014) вместе с Хьюбертом Л. Дрейфусом [15]. А. Ное также указал на то, что главу мультикорпорации в кинофильме зовут так же, как и известного американского философа-прагматика,
- Селларс [15]. Таким образом, кинофильм Robocop (2014) ввёл в поп-культуру двух философов - Хьюберта Л. Дрейфуса и Дэниэла К. Деннетта. Важно, что кинофильм Robocop (2014) не просто сделал отсылки к этим двум философам, но, по сути, противопоставил их философии друг другу в этом кинофильме.
Как уже упоминалось ранее, по мнению М. Э. Джонсона, Robocop (2014) можно рассматривать как мысленный эксперимент, однако, на мой взгляд, это не просто «мысленный эксперимент, в котором Алекс Мёрфи не больше чем человеческий мозг, помещённый в тело робота» [14], а мысленный эксперимент, в рамках которого моделируется столкновение двух противоположных философских подходов к искусственном интеллекту на практике и возможные его последствия. Анализ этого мысленного эксперимента вполне может быть целью исследования хотя бы на основании того факта, что некоторые научно-фантастические произведения, к которым можно отнести и кинофильм Robocop (2014), можно рассматривать как философские мысленные эксперименты [16, р. 1-2], работающие с гипотетическими ситуациями, описывающими нечто, чего пока что нет, но может быть, и выступающие как представления о возможных вероятностях. Итак, цель этого исследования - проанализировать кинофильм Robocop (2014) как философский мысленный эксперимент, в рамках которого противопоставляются философские подходы Хьюберта Л. Дрейфуса и Дэниэла К. Деннетта к построению искусственного интеллекта.
По сюжету кинофильм Robocop (2014) мультинациональному конгломерату
OmniCorp, специализирующемуся на производстве автономных роботов-миротвор- цев, запрещено использовать роботов в США по причине действия Акта Дрейфуса, закона, запрещающего развёртывать дроны (беспилотники) в Соединённых Штатах Америки. Акт Дрейфуса назван в честь сенатора, который предложил это законодательный акт, - Хьюберта Дрейфуса (в этой роли Зак Греньер). Как уже указывалось ранее М. Э. Джонсоном и А. Ное, имя сенатора из Мичигана, который выступает с критикой роботов и искусственного интеллекта, позаимствовано у американского философа Хьюберта Л. Дрейфуса (1929 - 2017).
Х. Л. Дрейфус, будучи последователем Мартина Хайдеггера и, потому, известным под прозвищем «Драйдеггер» (Dreydegger), прославился благодаря критике современных подходов к созданию и разработке искусственного интеллекта, изложенной в ряде его книг (Alchemy and AI [9], 1962; What Computers Can't Do [11-12], 1972; Mind over Machine [10], 1986). Х. Л. Дрейфус подверг критике четыре допущения, на которых строятся современные исследования искусственного исследования: 1) биологическое допущение: «Операции по переработке информации носят дискретный характер и происходят на основе некоторого биологического эквивалента переключательных схем» [2, с. 106]; 2) психологическое допущение: «Мышление можно рассматривать как переработку информации, заданной в бинарном (двоичном) коде, причём переработка происходит в соответствии с некоторыми формальными правилами» [2, с. 106]; 3) эпистемологическое допущение: «Все знания могут быть формализованы, то есть всё, что может быть понято, может быть выражено в терминах логических отношений, точнее, в терминах булевых функций - логического исчисления, задающего правила обращения с информацией, заданной в двоичном коде» [2, с. 106]; 4) онтологическое допущение: «Всё, происходящее в мире, можно представить в виде множества фактов, каждый из которых логически не зависит от остальных» [2, с. 106]. Х. Л. Дрейфус обосновывал, что все эти четыре допущения не состоятельны в силу невозможности их эмпирически реализовать, а также - в силу особенностей концептуального аппарата, которым оперируют исследователи искусственного аппарата, точнее, неточностей определений понятий, например, «мышление», «сознание» и так далее.
Между тем следует подчеркнуть, что критика Х. Л. Дрейфусом искусственного интеллекта родилась не внутри исследований искусственного интеллекта, а инспирирована философиями Эдмунда Гуссерля и Мартина Хайдеггера. В своём «Кризисе европейских наук и трансцендентальной феноменологии» [1] (1936) Э. Гуссерль, кстати, начинавший как математик, выступил против математизирующего естествознания, признающего в качестве единого истинного базового начала культурного сообщества и жизненного мира мир абстрактных математических предметов. В «Вопросе о технике» [3] (1953) М. Хайдеггер отметил, что современная наука характеризуется посредством объектификации (опредмечивания) естественной окружающей среды в описании мира в математических терминах, при котором неизбежно игнорируется сам земной характер мира, его естественность, - и это создаёт возможность производства предметов, объектов без подлинной индивидуальности и вещности. Гуссерль и Хайдеггер негативно относились к математизации и формализации реальности - и это в какой-то мере передалось критике искусственного интеллекта, осуществлённой Х. Л. Дрейфусом: он поставил под сомнение метафору «человеческий мозг как цифровая машина и универсальное устройство символьной переработки информации», проанализировав различие между человеческой экспертизой и компьютерными программами, которые претендуют на выполнение экспертизы. Х. Л. Дрейфус утверждал, что человеческое решение проблем и экспертиза зависят от фонового чувства контекста, от того, что важно и интересно в данной ситуации, а не от процесса поиска посредством комбинаций возможностей для нахождения того, что нужно. Х. Л. Дрейфус описывал это различие через райловское различие «знания-что» (Knowing-That) и «знания-как» (Knowing-How), трактуемого соответственно как хайдеггеровское различие между «наличностью» (Vorhandenheit) и «сподручностью» (Vorhandenheit) [10]. Предложенное Гилбертом Райлом в 1949 году понятие «знание-что» Х. Л. Дрейфус рассматривает как «наличность» М. Хайдеггера, интерпретируемое как сознательную пошаговую способность решения проблем. Эта способность проявляется тогда, когда человек сталкивается с проблемой, требующей остановиться, сделать шаг назад и перебрать одну идею за другой. В такие моменты идеи кажутся точными и простыми: они становятся контекстуальными свободными символами, которыми манипулируют, когда используют логику и язык. С точки зрения Х. Л. Дрейфуса экспертные компьютерные программы адекватно имитируют «знания-что». Предложенное Г. Райлом понятие «знание-как» Х. Л. Дрейфус рассматривает как «сподручность» М. Хайдеггера, интерпретируемое как способ, с помощью которого человек обычно взаимодействует с вещами. В таком случае человек предпринимает действия без сознательного символического обдумывания вообще, например, когда человек распознаёт лицо, едет на работу или находит что правильно сказать в конкретной речевой ситуации. Здесь происходит что-то вроде прыжка в нужной реакции без обдумывания всяких альтернатив. По мнению Х. Л. Дрейфуса, это и есть суть экспертизы: когда человеческая интуиция натренирована до такой степени, что человек забывает правила и просто реагирует на ситуацию. Человеческое осмысление ситуации основано на человеческих целях, человеческом теле и человеческой культуре - всех человеческих бессознательных интуициях, установках и знаниях о мире. Этот «контекст» или «фон» (подобие хайдеггеровского Dasein) - разновидность знания, которое не хранится в человеческом мозге символически, но скорее интуитивно, и определяет, что для человека является существенным, а что - нет. Х. Л. Дрейфус считал, что программы искусственного интеллекта, созданные на базе четырёх выше упомянутых допущений, не в состоянии схватить этот «фон» («контекст»), потому что человеческое бессознательное знание не может быть схвачено символически, точнее, символическим математическим языком [12, р. 119].
Всё сказанное указывает на то, что делать вывод о том, что Х. Л. Дрейфус был принципиальным противником искусственного интеллекта, нельзя, так как, во- первых, Х. Л. Дрейфус критиковал не искусственный интеллект в целом, а только подходы к созданию искусственного интеллекта, основывающиеся, по сути, на метафоре «человеческий мозг как цифровая машина и универсальное устройство символьной переработки информации», и, во-вторых, существует возможность и вероятность того, что могут быть созданы программы искусственного интеллекта, учитывающие «фон» («контекст») или даже совершающие фоновые практики. Кстати, в начале XXI столетия начались разработки подходов к машинному обучению, основанные на статистике, которые моделируют то, как мозг использует бессознательные инстинкты для восприятия и обнаружения аномалий и вынесения быстрых суждений [7].
Теперь - после всего сказанного о философских взглядах Х. Л. Дрейфуса на искусственный интеллект - следует поставить вопрос: «Когда сценарист кинофильма Robocop Джошуа Зэтумэр вводил в повествование персонажа по имени Хьюберт Дрейфус, он имел в виду именно философскую критику искусственного интеллекта, предложенную американским философом Хьюбертом Л. Дрейфусом, или же нечто другое?» Если ответ: «Да!», то упоминаемый в кинофильме Акт Дрейфуса - это законодательный акт, направленный против конкретных подходов к созданию искусственного интеллекта, основанных на концептуальной метафоре «человеческий мозг как цифровая машина и универсальное устройство символьной переработки информации». Если же ответ: «Нет!», то сенатор Хьюберт Дрейфус - это просто собирательный образ интеллектуалов-противников искусственного интеллекта, подобных тем, кто написал «Автономное оружие: открытое письмо от исследователей искусственного интеллекта и робототехники» (Autonomous Weapons: an Open
Letter from AI & Robotics Researchers) [5], или тем, кто написал «Открытое письмо Организации Объединённых Наций по поводу определённого конвенционального оружия» (An Open Letter to the United Nations Convention on Certain Conventional Weapons), в котором можно прочитать следующее: «Летальное автономное оружие (lethal autonomous weapons) грозит стать третьей революцией в войне. Будучи разработанным, оно позволит вооружённым конфликтам расти в масштабах больших, чем когда-либо, и ускоряться быстрее, чем люди успеют понять. Оно <летальное автономное оружие. - уточнение моё. - К. Р> может быть оружием террора, оружием, которое диктаторы и террористы могут использовать против невинных людей, а также оружием, которое может быть взломано (hacked) для того, чтобы вести себя нежелательным образом» [4]. Так или иначе, уже в самом начале кинофильма его создатели показывают, что роботы (lethal autonomous weapons, lethal autonomous weapon systems, lethal autonomous robots, robotic weapons, killer robots) не способны учитывать контекст: во время миротворческой миссии робот убивает ребёнка с ножом, хотя для робота нож не представляет никакой угрозы, тем более в руках мальчика.
Помимо Хьюберта Дрейфуса, в кинофильме Robocop (2014) присутствует персонаж, роль которого исполнил Гэри Олдмэн, - ведущий учёный фонда OmniCorp, доктор Деннетт Нортон. Как уже указывалось ранее М. Э. Джонсоном и А. Ное, имя доктора отсылает к американскому философу-когнитивисту Дэниэлу Деннетту. А вот фамилия «Нортон», как мне кажется, это отсылка одновременно к инженеру Эдварду Лори Нортону (1898 - 1983), разработчику эквивалентной схемы Нортона, и программисту Питеру Нортону (1943 -), разработчику комплекса утилит, предназначенного для конфигурирования, оптимизации и обслуживания компьютера и известного как Norton Utilities. Видимо, эта отсылка была сделана для того, чтобы специально подчеркнуть, что доктор Деннетт Нортон - не просто нейроучёный, но и компьютерный инженер.
Дэниэл К. Деннетт (1942 -) однажды сказал следующее: «Я обосновываю уже годами то, что в принципе, можно реализовать человеческое сознание в машине. В конце концов, это то, чем мы и являемся. Мы - роботы, сделанные из роботов, сделанных из роботов. Мы - невероятно сложные триллионы подвижных частей» [13]. Такой взгляд на человеческое сознание обусловлен предложенной Д. К. Деннеттом моделью множественности черновиков (Multiple Drafts Model), которая объясняет феномен человеческого сознания «в терминах “виртуальной машины”, своего рода развитой (и развивающейся) компьютерной программы, формирующей деятельность мозга», и в терминах «множественности черновиков», «состоящих из процессов фиксации содержания, играющих различные полунезависимые роли в более крупной экономике мозга» [8, р. 431]. Для Д. К. Деннетта сознание - это множество информационных потоков, конкурирующих между собой за доступ и контроль над мозгом и, тем самым, человеческим поведением. Кроме того, Д. Л. Деннетт полагает, что «люди обретают сознание тогда, когда они приобретают язык и учатся разговаривать сами с собой. Что происходит при этой трансформации, так это то, что параллельная машина (нейронные сети мозга) симулирует последовательную вычислительную машину (a serial machine) (операции выполняются по одной в последовательности в соответствии с правилами, которые могут быть рекурсивными). Приобретая язык и затем, обучаясь говорить молча с самим собой, человек якобы создаёт виртуальную машину сознания в мозге. Деннетт объясняет это с помощью базовой аналогии: это похоже на создание виртуальной машины для симуляции пилотирования самолёта в вашем настольном компьютере путём установки программного обеспечения, такого как Симулятор полётов (Flight Simulator). Сознание имеет такое же отношение к мозгу, как и симулятор полётов к процессам внутри компьютера» [6, р. 204].