От цифровых технологий к обществу тотального контроля?
И.А. Асеева, В.Г. Буданов, А.В. Маякова
Аннотация
В статье рассматриваются актуальные вопросы, связанные с разработкой, апробацией и внедрением цифровых сервисов и технологий, повышающих социальную рискогенность в условиях изменяющегося мира под влиянием глобальных потрясений, в частности, пандемии коронавируса.
Ключевые слова: социоантропологическая система, цифровая антропотехносфера, риски цифровых технологий.
From digital technologies to a total control society?
Irina A. Aseeva,
Vladimir G. Budanov, Anna V. Mayakova,
Modern technological, informational and social processes, especially rapidly occurring in the current situation of growing complexity and uncertainty, lead to the need to adjust the established patterns of behavior and forms of communication in various sociocultural environments. Many of these processes are already unthinkable outside of digital reality. The relevance of issues related to the development, testing, implementation and application of digital services and technologies is increasing in the changing world under the influence of total shocks, in particular the coronavirus pandemic. The social sphere, in the broadest sense of this concept, is undergoing global changes: local and total selfisolation, the “closure” of borders and territories, the remote nature of learning, work, shopping, and service provision force modern science and technology to develop at an even faster pace, increasing the digital shell.
In this regard, the functioning of all socio-anthropological systems becomes impossible outside the digital format, which means that digital technologies are already given as a modern stage of civilizational development. Despite the clear necessity and proven positive effect, digital technologies have a range of real and potential risks and threats that accompany almost every opportunity they provide. Risks and threats are especially pronounced when assessing long-term prospects, in particular, in strategic planning and socio-humanitarian forecasting. Among the real and potential risks and threats, one can note social degradation; risks of autism; loss of empathy in the digital generation; reduced ability to analyze information and make decisions, and transfer of these functions to artificial intelligence; reduction in the number of jobs; technical legal, ethical lack of preparation of society; cyber crimes; etc. How can the risks of digital technologies be avoided or minimized? This is a deliberate introduction of “digital hygiene”, “digital diet”, the systematic and gradual introduction of new technologies so that there is a real opportunity not only to assess risks, but also to manage them. The authors emphasize that the introduction of digital technologies into social reality is possible only under the control of systems of socio-technical expertise, in the process of constant monitoring of the changing landscapes of the anthropotechnosphere, exclusively with the priority of observance of laws, ethical norms, individual rights, and the well-grounded welfare of society.
Keywords: socio-anthropological system; digital anthropotechnosphere; risks of digital technologies.
Современные технологические, информационные и социальные процессы, особенно бурно протекающие в актуальной ситуации растущей сложности и неопределенности, приводят к необходимости корректировки устоявшихся моделей поведения и форм коммуникации в различных социокультурных средах. Многие из этих процессов уже немыслимы вне цифровой реальности [1]. Информационно-сетевые технологии, модернизация коммуникационных гаджетов и программ, ситуация вынужденной дистанционной работы фактически переформатировали общество под цифровой порядок, добавили ранее неизвестные проблемы, связанные не только с новыми качественными возможностями и сложностью отбора и систематизации информации, обучением в удаленном режиме, но и появлением неоднозначных и еще неизученных психоментальных феноменов новой виртуальной и киберфизической реальности.
Актуальность вопросов, связанных с разработкой, апробацией, внедрением и применением цифровых сервисов и технологий, возрастает в условиях изменяющегося мира под влиянием тотальных потрясений, в частности, пандемии коронавируса. Социальная сфера, в самом широком смысле данного понятия, претерпевает глобальные изменения: локальная и тотальная самоизоляция, «закрытие» границ и территорий, дистанционный характер обучения, работы, покупок, предоставления услуг заставляют современную науку и технологии развиваться еще большими темпами, наращивая именно цифровую оболочку. В связи с этим функционирование всех социоантрополо- гических систем становится невозможным вне цифрового формата, а значит, цифровые технологии являются уже данностью современного этапа цивилизационного развития. Несмотря на явную необходимость и подтвержденный положительный эффект, цифровые технологии имеют целый спектр реальных и потенциальных рисков и угроз, сопровождающих практически каждую возможность, предоставляемую ими. Особенно ярко риски и угрозы проявляются при оценке долгосрочных перспектив, в частности, при стратегическом планировании и социогуманитарном прогнозировании.
Реальными и потенциальными рисками и угрозами развития и применения цифровых технологий могут являться:
- социальная деградация, разрушение процессов становления возрастной социализации и социальной взаимопомощи;
- формирование «цифрового» поколения, риски аутичности, утраты эмпатии и сочувствия, утраты способности к анализу информации и принятию решений, и передача этих функций искусственному интеллекту;
- сокращение количества рабочих мест, в том числе в сфере интеллектуального труда, транспорта и сфере обслуживания, досуговые вызовы и утрата экзистенциальных смыслов;
- цифровое мошенничество и распространение вредоносного контента;
- техническая, нормативно-правовая, этическая неподготовленность общества;
- недостаточная разработанность цифрового инструментария, угроза «утечки» информации, взлома, хакерских атак и пр.;
- сопутствующие риски, появление которых обусловлено изменением на основе цифровизации существующих ранее технологий, а также совершенствованием действующих ранее и генерированием новых моделей цифровых технологий и сервисов.
Современные исследования называют нашу эпоху «гиперинформационной». Например, по данным Facebook, пользователи ежедневно обмениваются 500 терабайтами информации, 300 млн фотографий, 2,7 млрд «лайков», а Google фиксирует 5,3 млрд запросов в день [2]. Однако количество данных совсем не коррелирует с качеством и важностью сохранения этой информации, с одной стороны, и фактической возможностью защитить личностную или государственно важную информацию - с другой. Кроме того, беспрецедентные объемы информации, которую приходится искать, осмысливать, отбирать и использовать, неминуемо приведут к изменению форм взаимодействия с этой информацией. Ученые отмечают, что обработка информации современным человеком переориентируется с понятийной на образную, с текста на картинку. Изменившаяся форма подачи и приема информации формирует феномен, получивший название «клипового мышления», «клипового сознания» [3], особенно у молодого поколения появляется склонность к принятию стремительных, неотрефлексированных решений, на основе первичных внутренних импульсов и эмоциональных впечатлений. Так, цифровые технологии усиливают возможности (и не только интеллектуальные), но они в использовании как «сапоги скороходы» или «летающий ковер» или «экзоскелет интеллекта»: умеешь пользоваться - получишь преимущества перед другими, не умеешь - либо погибнешь, либо покалечишься. Это риск и постоянный выбор между «властью» и «рабством», между «быть всем» и «не быть ничем» - сюжет, не раз прописанный в классической литературе. Подобная двунаправленность наблюдается и в юридической интерпретации методологического и инструментального аппарата больших данных. В качестве примера можно привести разницу позиций в данном вопросе двух оппонентов: Европы и Китая. Китай рассматривает развитие цифровых технологий, в том числе большие данные как главную цель, некую кульминацию развития науки и технологий в целом, при этом сопутствующие риски и угрозы, в том числе по отношению к человеку и обществу, остаются «побочным эффектом». При этом держателем данных может быть только государство, в данном праве у него непререкаемая монополия. Европа же придерживается иного мнения на этот счет. Не случайно именно Европейским союзом был принят общий регламент по защите данных (GDPR - General Data Protection Regulation), а значит, в научной области остается неизменным приоритет социально-гуманитарной направленности и защищенности. Следовательно, возникает дилемма: развитие цифровых технологий - это Цель или Средство (в частности, для достижения цели эволюции социотехнического ландшафта). Если развитие ЦТ становится целью, а не средством достижения «высокой» цели, не возникнет ли утопия, угроза развития человеческой цивилизации? То есть маниакальное развитие ЦТ само по себе является риском, опасностью для общества. А. Генкин в докладе на круглом столе «Цифровая трансформация: новые вызовы и новые возможности для общества» поднимает злободневные вопросы: где границы доступа общества в жизнь личности? Где защитная линия нашей приватности? По мнению докладчика, возникновение и широкое распространение систем социального рейтинга является одним из ответов на эти вопросы. Так, все сведения об индивиде кумулируются в единую систему данных, в итоге формируется рейтинг благонадежности каждого человека. Целью данного рейтинга является отбор личностей, которым необходимы или которым доступны те или иные общественные блага. В качестве примера снова вспомним Китай, в котором подобный социальный рейтинг закреплен и функционирует на государственном уровне, более того, является одной из стратегий успешного развития государства. В результате наиболее благонадежные лица имеют максимальные преимущества в социальной сфере, а менее благонадежные испытывают реальные затруднения. Таким образом, в современном обществе формируются новые принципы социального расслоения и неравенства [4].
Еще одна проблема, связанная с санкционированием проникновения в персональные данные, возникает при обсуждении приоритета личных или общественных интересов в ситуации, например, крупных эпидемий, таких как вирус Эбола, H1N1 или коронавирус COVID-19. Большинство государственных регламентов направлено на защиту общественного здоровья в ущерб сохранению тайны частной жизни. В условиях пандемии коронавируса китайцы выпустили приложение, позволяющее определить факт взаимодействия с зараженным человеком. Таким образом, постоянно ведется проверка перемещений каждого человека, соответственно, нарушается медицинская тайна - сведения о заболевших гражданах доступны заинтересованным лицам. При этом данное отслеживание «прикрыто» благой целью - недопущение распространения эпидемии и возникновения новых вспышек. В связи с этим применяется иной термин - контроль, который в отличие от слежки подразумевает как дальнейшее управление, так и защиту от «внешнего воздействия». Откровенно говоря, слежка, или отслеживание, мониторирование, пожалуй, является частью контроля. Стоит акцентировать внимание на том, что контроль без целевой положительной функции, без дальнейшего анализа и синтеза во благо общества является незаконной и преступной деятельностью. И история развития цифровых технологий знает такие примеры. Проблема заключается в невозможности контролировать посторонние вмешательства в работу электронных медицинских приборов, таких как инсулиновые насосы, мониторы глюкозы, дефибрилляторы и т.п. В то время как для обеспечения безопасности компьютеров и смартфонов постоянно выпускаются специальные программы, для медицинских приборов такая задача изначально не ставилась, они ценились прежде всего за простоту, надежность и быстроту использования пациентами и лечащими врачами. Так, именно из-за возможности несанкционированного вмешательства в работу беспроводного стимулятора сердца вице-президента США Дика Чейни кардиолог не одобрил его использование [5].
С цифровизацией банковской и торговой сферы потребления и их сращиванием на основе скоринговых и скрининговых интересов связана угроза манипулирования данными, когда банки начинают собирать информацию о клиентской базе потенциальных заемщиков не только по социальным сетям [6], но и потребительской корзине клиентов с целью определения наиболее полного личностного профиля возможного заемщика. На самом деле речь идет и о еще более полной информации, восстановленной по оплатам банковской картой в кинотеатрах, аптеках, медицинских учреждениях, вокзалах. Фактически это не только социально-психологический профиль, но и проблемы здоровья, культурных и политических предпочтений и другие факты личной жизни, которые легко восстанавливаются в таком расширенном скрининге, нарушая этические нормы вторжения в приватные пространства личности [7]. Фактически наши приватные данные, собранные полулегально через банковско-маркетинговый скрининг, все больше становятся товаром, что не может не вызывать чувства протеста.
Несмотря на угрозы, сопровождающие развитие цифровых технологий, сегодняшняя ситуация в мире диктует свои условия, в том числе связанные с развитием и применением цифровых технологий и сервисов. Транслируемая повсеместно фраза, которая стала уже «слоганом» настоящего - «мир уже не будет прежним», формирует не только настроения в обществе, но и новые условия существования человека и общества в изменяющемся мире. И обойтись без цифровых технологий в новых условиях будет невозможно. Переход фактически уже состоялся. Особенно остро встает вопрос о внедрении и применении цифровых сервисов в кризисных ситуациях, в рамках которых ограничено перемещение человека. И положительный эффект цифровизации в таких условиях очевиден. Однако общество не всегда находится в стадии кризиса. Существует точка зрения, что при спокойном течении жизни человека и общества тотально негативное применение благ цифровизации можно снизить до минимума. Но нам представляется, что это ошибочное представление. Механизм запущен, он постоянно находится в работе. И мы наблюдаем нежелательную статистику. По данным «Лаборатории Касперского», за 2019 г. 40% российских детей в возрасте до 10 лет почти постоянно находятся в сети, в возрасте 14-18 лет практически все подростки в мире 60-70% времени проводят онлайн [8]. И данная среда отнюдь не безопасна. Подрастающее поколение все чаще и чаще сталкивается с проблемами социальной коммуникации, социализации. При этом процесс происходит на фоне развития и все более глубокого внедрения цифровых сервисов и инструментов.
Подтверждением статистических данных является выступление научного руководителя Лаборатории нейронаук и поведения человека Сбербанка, психотерапевта Андрея Курпатова на Всемирном экономическом форуме в Давосе в рамках делового завтрака Сбербанка. По мнению А. Курпатова, «то, что мы имеем сейчас, - это, по сути, эпидемия цифрового аутизма. Цифровой аутизм - состояние, при котором молодые люди не могут поддерживать длительный психологический контакт друг с другом. Они не интересуются внутренним миром другого человека. Люди для них фактически стали заменяемы, поскольку они не видят ценности каждого человека в отдельности» [9]. Каким же образом можно избежать так называемого цифрового аутизма? А. Курпатов предлагает простые и одновременно очень сложные для современного человека меры: цифровая гигиена и расширение реальных социальных связей. Вместе с тем современный человек проводит 8 часов в виртуальной реальности и лишь 2,5 часа в сутки тратит на личное общение [10. Р. 15], что приводит к постепенной утрате навыков социального взаимодействия, дисфункции дефолт-системы мозга.
Идея «цифровой гигиены» доктора Курпатова не нова, однако в современных реалиях актуальна и обязательна к применению. В 2018 г. вышла книга «Цифровая диета. Как победить зависимость от гаджетов и технологий» Дэниэла Сиберга, ставшая бестселлером в области психологии и «спасения» от цифровой зависимости [11]. Автор расписал в подробностях «цифровую диету», ключевым «продуктом» которой является «живое» общение, а ключевым методом не отказ, а умеренность в обращении с цифровыми сервисами и гаджетами. Д. Сиберг справедливо отметил, что отказаться от цифровых технологий общество уже не может, и в этом нет необходимости, поскольку цифровизация многих социотехнических задач существенно облегчает и упрощает жизнь современного человека. Однако быть удобным инструментом для решения текущих проблем и заменить саму жизнь человека - это разные вещи, которые нельзя ставить одновременно на чаши весов. Человеческая жизнь не должна и не может быть замещена цифровыми гаджетами и виртуальной реальностью, поскольку в таком случае мы говорим уже не о человеке, а о киборге. В связи с этим тотальный перевод социальных кластеров на «цифровые рельсы» губителен для всей социоантропологи- ческой системы.
Насыщение цифровыми технологиями основных социальных кластеров неотвратимо будет происходить под влиянием тотальной цифровизации. Однако резкие движения в этой области абсолютно противопоказаны. Это может привести к необратимым последствиям, которые поставят под угрозу жизнь и здоровье человека и общества. А значит, внедрение цифровых технологий должно происходить планомерно и постепенно, чтобы была реальная возможность не только оценить риски, но и научиться управлять ими. Только в таком случае имеется возможность сохранить и преумножить положительный опыт прошлого и снабдить его необходимым цифровым инструментарием. Ключевой аспект состоит именно в коррекции, а не в полной замене системы. Мы же сейчас можем наблюдать постепенное разрушение привычной системы социального устройства, в том числе социальных кластеров, и конструирование новой социальной сферы, которая имеет в качестве базиса именно цифровые технологии, которые, по сути, должны стать инструментом-проводником в новый формат общества. Ярким примером, высветившим плюсы и минусы тотальной цифровизации, стало российское образование периода первой волны пандемии коронавируса. Цифровая среда из дополнительного обучающего инструмента превратилась в единственную образовательную среду, которая заменяет весь образовательный процесс. А в условиях пандемии коронавируса цифровизация образования особенно актуальна. В России и за рубежом образовательная деятельность на всех уровнях в период обострения пандемии была переведена в дистанционный формат. Практика виртуальной школы существует на базе цифровых платформ, работающих в условиях виртуальной реальности: Teaching,