Можно составить уравнения, которые определяют интенсивность эмоциональных прототипов, например радости, в определенный момент времени - в зависимости от тормозящего или усиливающего взаимодействия с другими эмоциональными прототипами. В дополнение к этому можно принять во внимание еще и ряд физиологических факторов, таких, например, как гормональные воздействия, голод, жажда и т. п., и предшествующее состояние, выступающее, поскольку данное уравнение движения является зависимым от времени, определяющим для текущего эмоционального состояния. Поскольку существуют различные эмоции, мы бы получили в итоге систему из многих уравнений, которые, так сказать, генерировали бы для каждого момента времени смешанное эмоциональное состояние.
Конечно, речь идет прежде всего лишь о математической модели сложной динамической системы, а именно о системе уравнений для изменяющейся во времени интенсивности эмоциональных прототипов. Но ничто не препятствует тому, чтобы построить нейрохимическую систему с сенсорами, которая способна ощущать в соответствии с такой моделью. Это были бы, возможно, не наши человеческие ощущения, т. к. телесность иначе реализована, но ощущения, подобные тем, которые получают человеческие организмы. Этот подход может быть в дальнейшем уточнен и развит в рамках математической модели Ходжкина-Хаксли. При этом математическая модель нейронной динамики, например лимбической системы, будет играть важную роль. В рамках флагманского проекта ЕС «Человеческий мозг» закладывается эмпирическое пробное основание для проверки предсказаний и объяснений этой модели.
Сильный искусственный интеллект (ИИ), следовательно, технически вполне мыслим, а отнюдь не невозможен. Правда, встает вопрос, до какой степени нам следует развивать способности ощущений системы, чтобы из этических оснований избежать ненужных страданий26.
В рамках исследований классического ИИ в течение долгого времени полагали, что можно представить человеческий разум квазимеханически в программных правилах. Такие программы широко, с задействованием их потенциала по выполнению сложных процедур, использовались, например, в промышленности при управлении производственными линиями. Из-за применяемых при этом программных строк, состоящих из формальных символов, мы говорим также о символическом ИИ. Однако было бы иллюзией намереваться Picard R.W. Affective Computing. Cambridge (MA), 1997. Mьller O. et al.(Hrsg.) Das technisierte Gehirn. Neurotechnologien als Herausforderung fьr Ethik und Anthropologie. Paderborn, 2009. схватить таким образом все умственные способности человека. За этим стоит старая вера, в соответствии с которой ум и машина, подобно уму и телу, разведены как софтвер и хардвер, и нужно лишь записать все умственные способности в виде программы. Этого может быть достаточно для моделирования отдельной моторной или когнитивной функции. Чтобы схватить динамику мозга и связанных с ней ментальных состояний человеческого организма, требуется техническая рамочная модель для отелесненного разума (embodiedmind).
Даже роботы - каждый из них - имеют собственные тела, с помощью которых они расширяют свой опыт, тем самым развивая собственный вид интеллекта, и он не должен быть таким же, как наш. Мы говорим о «телесном» ИИ (embodiedAI).И другие живые существа развили в ходе эволюции свои собственные формы интеллекта. Интеллект возникает, таким образом, через преодоление сложности в соответствующей окружающей среде, выступающей как система. Согласно представленной здесь рабочей гипотезе, интеллект не обязательно связан, к примеру, с сознанием, каким обладают люди; он связан со способностью решать специфические проблемы. Степень интеллекта зависит от степени сложности проблемы, которую всякий раз необходимо решить. Мы, люди, очевидно, представляем собой гибридные системы со многими способностями, которые в ходе эволюции ни в коей мере не должны были развиться именно таким образом. Гибридная система нашего органического оснащения и наши способности могли бы выглядеть иначе при другом историческом ходе развития Mainzer K. Organic computing and complex dynamical systems. Conceptual foundations and interdisciplinary perspectives // Organic Computing / Ed. by R.P. Wьrtz. Berlin, 2008. P. 105-122. Mainzer K. From Embodied Mind to Embodied Robotics: Humanities and System Theoretical Aspects // Journal of Physiology (Paris). 2009. Vol. 103. P. 296-304..
Коэволюция автономных социотехнических систем?
Киберфизические системы
В центре дебатов о телесности (embodiment)ментальных способностей и робототехники стоит понимание того, что процессы, протекающие в когнитивной системе, в отличие от классического ИИ не могут быть поняты в отрыве от телесных данных системы, ее ситуативной встроенности и ее динамического взаимодействия с окружающей средой.
Этот тезис можно перенести с отдельной системы роботов на глобализированный Интернет-мир. Здесь также традиционно проводят строгое различие между физическим («реальным») и виртуальным миром. Но уже сегодня врачи и инженеры действуют в реальном физическом мире при поддержке виртуальных приборов. Так, проведение операции сопровождается виртуальным изображением органа с точными информационными данными и данными измерений, обеспечивая точность хирургического вмешательства. На смену понятию «виртуальная реальность» (virtualreality)пришло представление о расширенной реальности (augmentedreality),другими словами, о расширении физического мира посредством использования виртуальной реальности28.
В техническом плане ключевую роль играют при этом мехатронные системы, интегрирующие механические и электронные системы с относящейся к ним технологией сенсоров. Можно говорить, например, и о домашних приборах в интеллигентном доме, оснащенных сенсорами, а также и об автомобиле, который через сателлит и сенсоры индивидуально определяет свой маршрут, скорость и безопасные дистанции. Тем самым, Интернет может быть «воплощен» в сети взаимодействующих приборов, вещей и людей: вещи сами воспринимают себя через сенсорные технологии и нами, людьми, воспринимаются и становятся объектами манипуляций. Уже говорят об «Интернете вещей».
Системы управления, встроенные в современные автомобили и самолеты и состоящие из множества сенсоров и исполняющих устройств, больше не соответствуют строгому делению вещей физического мира и компьютерного мира. В информатике наступает время киберфизических систем, которые распознают свое физическое окружение, обрабатывают полученную информацию и согласованно влияют на физическое окружение. Для этого необходимо сильное сопряжение физической модели применения и компьютерной модели управления. Речь при этом идет об интегрированных целостных состояниях взаимодействующих человеческих мозгов, информационных и коммуникационных систем, отличающихся значительной автономностью, и физических вещей и приборов29.
Конкретными примерами служат умные решетки (smartgrids),а именно адаптивные и в значительной степени автономные энергетические сети, которые в Германии после энергетического поворота приобрели особую актуальность. Мы можем уже сегодня через Интернет получать информацию, когда и какой именно из функционирующих в нашем доме приборов нужно подключить к электрической сети с наибольшей для себя выгодой. Для многих людей рассчитывать это самостоятельно чересчур хлопотно и даже не осуществимо, поскольку тем самым к ним применяются завышенные требования. Следующим шагом будут интеллектуальные программы (виртуальные агенты), молниеносно договаривающиеся о выгодных ценах на электричество и скидках. И, наоборот, пользователи сети сами становятся поставщиками энергии, когда их дома по причине лучшей тепловой изоляции и новых энергетических технологий (например, фотовольтаики, биогаза и т. п.) передают в сеть неизрасходованную электроэнергию. Там общая энергия автономно контролируется, распределяется и уравновешивается виртуальными агентами: облако (Cloud) IT-мира, в котором сохраняются все данные и программы, сплавляется с физической инфраструктурой человеческой цивилизации.
Увеличивающаяся автономия сети выдвигает новые требования к контролю. Агентские программы, например в финансовой системе, наглядно демонстрируют, как могут обостряться финансовые кризисы, когда автономные программы в доли секунды производят сумасшедшие покупки и продажи, которые для людей уже не обозримы.
Cматематической точки зрения при рассмотрении этих сетей речь идет о сложных системах с нелинейной динамикой, с которой мы уже познакомились на примере устройства клеток, организмов и человеческого мозга. Нелинейные побочные действия этих сложных систем часто могут становиться в высокой степени неконтролируемыми. Локальные причины вследствие нелинейных взаимодействий способны разрастаться в непредсказуемые глобальные действия. Поэтому говорят о системных рисках, которые не имеют никакого отдельно идентифицируемого виновника, но возникают по причине системной динамики в целом.
Наши технологии обретают все большую автономность, чтобы решать задачи все более усложняющегося цивилизационного организма. Отдельные люди уже не справляются со сложностью необходимых для такой цивилизации систем организации. Обратная сторона возрастающей автономии техники - контроль, который становится все более сложным: машины и приборы разрабатывались в инженерных науках всегда с прицелом на возможность их контролировать. Но как можно избежать системных рисков сложных систем ?
Взгляд на эволюцию показывает, что ее ход дополняется автономной самоорганизацией и контролем (по крайней мере, в здоровых организмах). В случае болезней, таких как рак, это равновесие нарушается: раковая опухоль является самоорганизующимся организмом, который имеет свои собственные интересы и, так сказать, борется за свое выживание, не предвидя при этом, что организм- хозяин, в котором она прижилась, от этого разрушается. Сложные системы нуждаются, таким образом, в механизмах контроля, чтобы находить баланс - внутри организмов, на финансовых рынках, в политике и т. д. В сложных цивилизациях развитие людей сопровождается развитием технологий. Подобные мегасистемы или суперорганизмы эволюционируют, демонстрируя свою собственную нелинейную динамику. Это уже давно стало реальностью, а не просто биологической метафорой. Такие системы можно описать с помощью математических моделей, но при этом они становятся все более неуправляемыми.
Продолжая использовать язык биологии, подчеркнем, что суперорганизм социотехнической системы состоит из органически ей присущих, небольших, автономных, неуклонно повышающих свой интеллектуальный уровень систем, организмов-частей, о которых нам, на первый взгляд, не известно, являются ли они «хорошими» или «плохими». Нуждается ли суперорганизм в таком случае, пусть и не немедленно, в технологическом эквиваленте иммунной системы? В принципе мы уже близки к тому, чтобы развивать эту иммунную систему. Если рассмотреть финансовые кризисы последних лет, именно такие системы контроля и «пожарные стены» были встроены в суперорганизм во избежание каскадного распространения нелинейных «эпидемий». Это очень напоминает нам способ, каким разворачивается эволюция. Решающее отличие состоит в том, что эволюция работает без центрального управляющего сознания: методом «проб и ошибок», с использованием адаптации, с чудовищными - по человеческим меркам -- потерями. В природе не существует нашего мерила потерям, эволюционный процесс просто развивается так, как развивается. В эволюции нет места какой-либо оптимизации, что-то сохраняется, согласно Дарвину, лишь постольку, поскольку этому способствовали сложившиеся условия.
Техническая коэволюция
На данном этапе эволюции мы располагаем нашим организмом, нашим мозгом с присущими нам ментальными состояниями и когнитивными способностями. За миллионы лет мы изменили окружающий мир так, как не смогло сделать ни одно другое живое существо. Иногда этот период называют технической коэволюцией. Принимают ли это название или хотят отмахнуться от него, как от метафоры, - во всяком случае, мы, люди, уже давно занимаемся тем, что перестраиваем самих себя и окружающий мир. Это началось много тысячелетий назад с приручения животных и выращивания культурных растений и продолжается сегодня через био- и генные технологии вплоть до исследования стволовых клеток, синтетической биологии, техники медицинских имплантатов и протезов, робототехники и социотехнических систем. Многое из этого нас беспокоит и требует этического регулирования.
Но мы не должны смиряться с собственной динамикой и случайной игрой эволюции30. Эволюция, по Дарвину, - не празднество гармонии, в ходе которой в итоге все само хорошо сложится. Динамика вирусов, рака и других болезней, протекание процесса старения и связанные с ним вызовы обществу говорят сами за себя. Люди могут установить стандарты для долгосрочного и устойчивого обеспечения и улучшения своих жизненных условий. Мы говорим в таком случае об оформлении техники (Technikgestaltung)31. К достоинствам человека относится возможность научиться вмешиваться в свое будущее и самому его определять. Ответы на вопросы, кто мы, что мы сохраняем и что мы хотим получить от искусственного интеллекта и искусственной жизни рядом с нами и насколько мы согласны их терпеть, находятся в нашей власти. Как бы то ни было, мы не должны оказаться в конце концов захваченными собственной динамикой цивилизаторских суперорганизмов, которые мы же однажды и вызвали к жизни.
Список литературы / References
1Banerjee, R., Chakrabarti, B.K. Models of Brain and Mind. Physical, Computational, and Psychological Approaches. Progress in Brain Research. Amsterdam: Elsevier, 2008. 266 pp.
2Bekey, G.A. Autonomous Robots. From Biological Inspiration to Implementation and Control. Cambridge Mass.: MIT Press, 2005. 577 pp.
3Boogerd, F.C. et al. (ed.) Systems Biology. Philosophical Foundations. Amsterdam: Elsevier, 2007. 242 pp.
4Broy, M. (ed.) Cyberphysical Systems. Innovation durch softwareintensive eingebettete Systeme (acatechdiskutiert).Heidelberg: Springer, 2010. 141 pp.
5Cluster of Excellence Cognition in Technical Systems CoTeSys, 2011. [http://www. cotesys.de/, accessed on 01.01.2014].
6Dominey, P.F., Warneken, F. “The Basis of shared intentions in human and robot cognition”, New Ideas in Psychology, 2011, vol. 29, no 3, pp. 260-274.