Высшей школы современных социальных наук МГУ
имени М.В. Ломоносова
Путь выхода из матрицы
Рецензия на книгу: Фоер Ф. 2020. Без своего мнения
Субботин Александр Алексеевич аспирант кафедры демографии,
Москва, Россия
Аннотация
Особенность данной рецензии состоит в исследовании свойств современных коммуникаций и отношений человека с информацией. Американский журналист и экс-редактор журнала «The New Republic» Франклин Фоер изучает зарождение, настоящее и будущее новых медиа. Даже собственными названиями глобальные сетевые компании демонстрируют, что они претендуют на власть над миром. Социальные сети и даже операторы поисковых запросов легко и безнаказанно собирают данные ничего не подозревающих пользователей, которые сами же добровольно размещают сведения о себе в открытом доступе. А затем, получив нужную информацию, такие корпорации, как Google, Facebook и Amazon, с помощью алгоритмов управляют поведением значительной части населения земного шара. В рецензии освещаются наиболее важные темы книги: причины деградации индивидуальных вкуса и мышления, средства слежения корпораций над клиентами, кризис издательского дела и профессионализма в журналистике, важность частной жизни. Показано, что Ф. Фоер не сеет панику, но даёт понять читателю, с какими проблемами сталкивается современное информационное общество. Одна из главных сложностей заключается в том, что, несмотря на обилие контента, поисковые сервисы и социальные сети не позволяют пользователям фильтровать его, опираясь на личные интересы, а организуют выдачу материала согласно собственным внутренним алгоритмам. Возможно, нам стоит обратиться к традиционным способам познания мира -- таким, как чтение бумажных книг. Злом является не сам Интернет как средство коммуникации, а превращение его в единственный способ передачи сообщения, которому оказывается чрезмерное доверие. Делается вывод о том, что книга «Без своего мнения» предлагает способ «выхода из матрицы» цифровой эпохи.
Ключевые слова: Google; Facebook; Amazon; социальные сети; технологические гиганты; монополии; издательское дело; журналистика; интеллект; свобода; Фоер.
The feature of this review is to study the properties of modern communications and relations between humans and information. An American journalist and ex-editor of The New Republic, Franklin Foer studies the origins, present, and future of new media. Starting with the meaning of their own names, global network companies claim to everyone that they are ruling the world. Social networks and even search engines collect data with ease and impunity from unsuspecting users who voluntarily publish open access information about themselves. Then, after acquiring the information they need, corporations like Google, Facebook, and Amazon use algorithms to control the behavior of a large part of the world. The review highlights the most important topics of the book: the reasons for degradation of individual taste and thought, ways corporations can follow their clients, the crisis of book publishing and professional journalism, and the importance of privacy. Foer does not spread panic; rather, he explains to the reader what problems modern information society faces. One of the main difficulties is that search engines and social networks do not allow users to filter content (despite an abundance of it) according to users' personal interests but instead organize the output of material according to internal algorithms. Perhaps we should turn to traditional ways of comprehending the world, such as reading paper books. The Internet itself as a means of communication is not the ultimate evil but the fact that it has been turned into the only way of communication means it is relied on too extensively. As a result, the book World Without Mind by Franklin Foer offers a way to “exit the matrix” of the digital age.
Keywords: Google, Facebook, Amazon; social networks; technology giants; monopolies; publishing; journalism; intelligence; freedom; Foer.
Введение: критика способности суждения в наши дни
Насколько человек самостоятелен в собственных суждениях? Этим вопросом задавался ещё Кант [Кант 1994]. А в цифровую эпоху американский журналист и экс-редактор журнала «The New Republic» Франклин Фоер, родившийся в 1974 г., изложил свой взгляд на автономность человека разумного в книге, состоящей из трёх частей. Первая часть -- «Монополисты разума», состоящая из шести глав, -- показывает, каковы на самом деле те известные медиахолдинги, услугами которых пользуется каждый из нас. Вторая -- «Мир без разума» -- в двух главах фиксирует современное состояние угнетения мыслительных способностей индивида путём тотального внешнего и при этом практически незаметного контроля над ним (одна из двух её глав в названии содержит отсылку к знаменитой статье 1967 г. «Смерть автора» Ролана Барта). А третья часть книги Фоера, которая называется «Вернуть разум», состоит из трёх глав и представляет собой гимн материальным носителям знания как средству, помогающему вырваться из цифрового плена.
Основной замысел книги прослеживается с самого её начала, проходя красной нитью через всё произведение, до последних страниц: способность человека рассуждать не должна находиться под контролем корпораций, личности необходимо умение автономно составлять собственное мнение. Фоер работает с теориями познания -- от Р Декарта и Дж. Локка до А. Тюринга -- и с прогнозами наших современников-футурологов (например, Рэймонда Курцвейла), не обходя вниманием и религиоведение. Как журналист, привыкший использовать множество источников, Фоер, чтобы представить рассматриваемую проблему максимально разносторонне, опирается на эмпирические данные статистики и интервью со специалистами в сфере новых медиа, а также на высказывания самих глав корпораций.
Критика и реакция со стороны научного сообщества на книгу не замедлили себя ждать. Джейсон Уиттакер приветствует неприятие Фоером монополизации коммуникаций как причину потери доверия к ним и соглашается с тем фактом, что изначально утопические намерения облегчить жизнь человечества быстро переродились в жажду прибыли [Whittaker 2019: 5]. Моника Прендергаст и Джулиана Сакстон высказывают опасения, что новые медиа могут способствовать росту авторитаризма [Prendergast, Saxton 2020: 11] (см. также: [Stephanidis et al. 2019]). И всё же упомянутые авторы, как и Фоер, надеются на человеческий мозг, точнее на его пластичность. А редактор-основатель журнала «Logic» Бен Тарнофф в рецензии «Guardian» [Tarnoff 2017] делает особый упор на личный опыт Фоера и на то, как тот пытается противостоять депрофессионализации литературного труда. Однако Тарнофф не разделяет предлагаемые в качестве панацеи от тотального присутствия современных медиа отрицание коллективизма и отказ от лёгких удовольствий техники в пользу медленного, как употребление органической пищи, развития души. Тарнофф предлагает взамен другое поведение, где пользователь сохраняет равновесие между «Твиттером и Тургеневым», не искажая свою человечность и влияя на политику так, чтобы сделать актуальные инструменты работы с информацией лучше. Майк Доус и Филипп Уйс рассматривают идею, которая у Фоера проскальзывает лишь мельком, о потенциальной пользе новых технологий: они способны помочь модернизировать сферу обучения [Douse, Uys 2018]. В фундаментальной работе Александра Граменья об алгоритмах есть несколько отсылок к книге «Без своего мнения», когда он пишет об опасениях по поводу их неконтролируемого использования [Gramegna 2018: 14], их субъективной природе [Gramegna 2018: 16] и угрозе манипулирования через них [Gramegna 2018: 17-18] (сходные мысли проявляются и в работе Сары Смит [Smyth 2019]). А Диогу Кейруш упоминает работу Фоера в связи с экзистенциальной угрозой технологий [Andrade 2019: 114]. Отечественных откликов на столь актуальную работу не встретилось, поэтому пришла пора и русскоязычному читателю высказать свои соображения.
Как Google, Facebook, Amazon и Apple лишают людей индивидуальности
Монополизация какой-либо отрасли позволяет производителю одновременно диктовать предложение и бесконтрольно взвинчивать цены, при этом не повышая, а иногда и снижая качество продукции (это касается не только товаров, но и услуг). Так и объединение всего знания или общения в одних «руках» заставляет потребителя играть по правилам поставщика. Фоер прямо утверждает, что «паразиты» общественного сознания и не скрывают своих «мошеннических» намерений. Уже в предисловии американский журналист приводит идеологические расшифровки наименований крупнейших корпораций цифрового бизнеса: «Amazon, чьё имя по-английски совпадает с названием реки Амазонки, самой полноводной на планете, выбрал себе логотип со стрелочкой от A к Z, от первой буквы английского алфавита к последней, а слово Google -- чуть изменённое название числа «гугол», единицы с сотней нулей, которое математики используют в качестве символа невообразимо большой величины» (с. 7)1. Facebook, конечно, значит всего лишь «книга лиц», но, учитывая, какое значение на протяжении большей части истории человечества придавалось феномену Книги (например, именно так переводится слово «Библия»), упрекать данную компанию в скромности тоже не приходится.
Некоторый религиозный, а именно апокалиптический оттенок суждения присутствует и в работе Фое- ра. Допустим, с целью осмысления перспектив искусственного интеллекта журналист обращается к религиоведу Роберту Герачи, который оценивает суждения Рэймонда Курцвейла и других поклонников сингулярности. Вера в эту последнюю похожа на убеждения, отражённые в христианских доктринах о конце света (с. 71). В этом случае Кремниевая (Силиконовая) долина напоминает тот Армагеддон, где происходит битва за души людей. И, как полагает Фоер, отнюдь не за их независимость. Хотя среди специалистов крупнейшего научного узла и можно найти сторонников философии либертарианства (культ свободы), основанной на концепции объективизма Айн Рэнд [Рэнд 1995], в этих местах обычно не восхищаются гениальностью индивида, а верят в социальную силу коллективного разума (с. 8), который мечтают сделать как можно более таковым.
Один из способов создания коллективного разума, используемый корпорациями, это регистрация в социальных сетях, требующая от потенциального пользователя хотя бы минимальных анкетных данных. Конечно, данные могут быть условными, но многие требуют реальной информации, к тому же аккаунт легко проследить по IP-адресу или с помощью геолокации смартфона. Социальные сети, помимо сбора данных вышеназванным способом, узнают о пользователях (порой без дополнительных ухищрений), анализируя их публикации и формируя, таким образом, ленту новостей. Facebook представляет собой достаточно серьёзное средство воздействия на население, так как большинство -- например, 62% американцев (с. 14) -- использует именно этот источник для получения новостей обо всём в мире, поэтому сейчас как никогда актуален афоризм канадского философа Маршалла Маклюэна: «Средство коммуникации и есть сообщение» (с. 37).
Действительно, гаджеты с их техническими возможностями стали продолжением тела: люди используют смартфоны, компьютеры и облачные хранилища как выносную память, однако американский журналист считает, что человечество впадает в симбиотические отношения не с технологиями, а с компаниями-монополистами (с. 16-17). По мнению Фоера, всё началось с того, что Стюарт Бранд удивился отсутствию фотографий всей планеты при наличии спутников и в итоге создал «Каталог всей Земли» (с. 27-30). Это означало, что объединение, которого человечество не достигло с помощью коммун, удалось компьютерам (с. 33) -- они сделали возможным «мировой мозг» (выражение английского писателя-фантаста Герберта Уэллса) или «коллективный разум» (фраза редактора онлайн-издания «Wired» Кевина Келли)2. Благодаря компьютерам мир стал глобальным и во многих отношениях почти бесплатным -- и это принял даже капитализм.
Однако у объединения быстро обнаружились и оборотные стороны: компьютеры, производившиеся в основном компанией Microsoft, имели её же программное обеспечение, место главных ворот к знанию занял Google, а к любой покупке онлайн -- Amazon. Что до социальных сетей, то очевидна наибольшая популярность Facebook (с. 43). Стартапы, возникающие позже, не хотят больше конкурировать с гигантами; напротив, набирая вес, новые начинания мечтают слиться с популярными корпорациями (с. 46), Нумерация страниц приводится по pdf-версии книги и может отличаться от печатной версии. -- Примеч. авт.
2 Ноэль Паккард также отмечает одарённость Стюарта Бранда, подчёркивая, что почерпнула эту оценку из книги Фоера [Packard 2020: 13-14].
3 Ряд романов цикла описывает в том числе то, как изобретённый человеком искусственный интеллект (в книге -- ИскИн) в лице некоторых его представителей смог влиять и на прошлое космоса (см., например: [Симмонс 2018]).
4 Полное имя: Lawrence (Larry) Edward Page. а те не стесняются демонстрировать всесилие: примерно пять лет назад компания Google изменила юридическое имя на Alphabet (с. 48), тем самым указав на понимание своего места в истории. Поисковая система сохранила узнаваемое имя бренда (возможно, чтобы не создавать путаницу в сознании потребителей), однако корпорация переросла рамки явления. Почему? Например, потому что пытается объединить все знания мира в одну базу данных, чтобы натренировать алгоритмы на распознавание изображения и понимание языков людей, создав тем самым действительно искусственный интеллект.
Это намерение не так уж ново. Дело в том, что из механистического понимания человеческого тела как вместилища для ума следует возможность существования информации без жёсткой её привязки к единственному физическому носителю. Сейчас возможен перенос информации, допустим, с помощью флеш-накопителя с одного компьютера на другой, а также с применением облачных технологий. Мысль о «перемещаемом разуме» приходила в голову уже Рене Декарту, чьи идеи (с. 61) затем преобразовал Алан Тюринг, шутливо предсказав существование нетбуков и смартфонов (с. 64). Мало того, Фоер полагает, что человек таким образом, после «смерти Бога» [Ницше 1989], пытается с помощью учёных занять место творца Вселенной (с. 64). Это, впрочем, было уже «предсказано» в художественной литературе -- в тетралогии Дэна Симмонса о Гиперионе и Эндимионе3. Искусство, как правило, способно намечать контуры будущего. Так, Фоер отмечает, что «сингулярность», или «технологическая сингулярность», -- это астрофизический термин, любимый фантастом Верноном Винджем (с. 68). Но теперешний популяризатор выражения Рэймонд Курцвейл понимает его как всемогущество искусственного интеллекта, то есть как способность компьютеров создавать себе подобных (с. 68), и относит вероятность наступления этого события предположительно к 2045 г. (с. 69).
Современная компьютерно-корпоративная реальность не автономна по происхождению, а связана по истокам с иными сферами жизни. Например, Фоер отмечает, что «Google начался как докторская диссертация, а источником вдохновения относительно устройства поисковой машины послужил принцип отбора академических публикаций» (с. 72), то есть количество ссылок на одну работу в других подобных. Данный алгоритм его создатель Ларри Пейдж4 назвал в собственную честь PageRank (с. 72). Компании Google и Microsoft являются монополистами, а их конкуренцию фиксируют даже анекдоты: Microsoft за глаза называли компанией зла -- «The Evil Company», а девиз компании Google -- «Don't be Evil» («Не будь злом»), который можно рассматривать как призыв не быть как Microsoft (с. 74). Пейдж вообще замахивается на сверхглобальные вещи -- вместо поисков лекарства от рака у него в планах победить смерть (с. 78), и, судя по лёгкой иронии стиля, Фоера это приводит в некоторое недоумение. Кроме того, журналиста несколько шокирует слишком вольное обращение Google с законами: решив оцифровать все книги на земле, компания расценивала авторские права как незначительное препятствие (с. 80).
Критика Google сменяется у Фоера критикой Facebook, хотя некоторая польза этого последнего тем не менее признаётся: FB способен дать возможность сопротивления властям (с. 83). Сопротивление, по его мнению, так или иначе заложено в природе компьютерного мира: враги хакеров -- «бюрократы, управлявшие университетами, корпорациями и государствами» (с. 85). Но победители, как в пьесе Евгения Шварца «Дракон» (1942-1944) [Шварц 2018], переняли негативные характеристики побеждённых. Фоер поэтому воспринимает Facebook прежде всего как «клубок правил и процедур для сортировки информации; правил, установленных корпорацией исключительно ради выгоды корпорации» (с. 84), которая к тому же не ценит частную жизнь пользователей (с. 89). Автор даже приводит обоснование этого движения: если всё тайное станет явным, закончится сегодняшний хаос в сфере морали. коммуникация информация деградация цифровой
Фоер, будто в отместку, раскрывает источник силы Facebook: это алгоритмы, которые изобрели для того, «чтобы автоматизировать мышление, избавить человека от необходимости принимать трудные решения, прекратить полемику» (с. 94). В целях понимания происхождения алгоритма как инструмента строительства утопии американский журналист предлагает вернуться к его создателю -- Готфриду Лейбницу, полагавшему, что знание способно возникать само собой путём вычисления (с. 98).
Но сам Фоер перед алгоритмами не преклоняется, а, скорее, высмеивает и описывает их переводческие способности как чисто грамматические, не вникающие в значения слов; умение же искать закономерности полагает механически-бессмысленным, потому что такой «интеллект» находит связи там, где их наличие не кажется человеку реальным. И вместе с тем этот интеллект управляет людьми -- например, генерируя с помощью предлагаемых пользователям рекомендаций продажи Amazon и Netflix. Данная связь -- биологическая личность и безымянная и бестелесная программа -- тем не менее обоюдна: каким бы механическим ни был алгоритм, он построен согласно логике изобретателя (с. 103). Однако связь между алгоритмами и данными не столь добровольна, какой кажется: специалисты по информатике шутят, что «данные пытают, пока они не сознаются» (с. 104), но, как и жертвы пыток, они рассказывают то, что хотел бы знать дознаватель. Получается своего рода цифровая инквизиция (этой метафоры у Фоера нет): Google способен понижать или повышать приоритет выдачи данных при поиске. А Facebook строит ленту новостей хронологически снизу вверх, то есть способом, обратным тому, которым мы привыкли читать книги -- сверху страницы вниз.