Наконец, еще одной примечательной тенденцией, связанной с внедрением технологий ИИ в работу организаций, является частичное вытеснение локального знания специалистов знанием, основанным на больших данных По объему данные, которые используют для анализа алгоритмы ИИ, необязательно велики, однако им присущи другие свойства больших данных. Само понятие «большие данные» в качестве отличительных характеристик предполагает не только размер, но и характер генерации: они появляются в режиме реального времени и создаются активностью самих пользователей, охватывают всю генеральную совокупность, отличаются разнообразием и, как правило, генерируются онлайн [Губа 2018].. Вытеснение, однако, оказывается скорее трансформацией--поглощением и автоматизацией, которую позволяют осуществить технологии ИИ. Рассмотрим данную тенденцию на примере двух организаций.
В одной из организаций ИИ (компьютерное зрение) используется для мониторинга качества работы сотрудников: эта технология создается и применяется для оценки качества онлайн-уроков. Каким образом возникает знание о качестве работы, приобретаемое благодаря работе ИИ? С точки зрения сотрудника, который принимал участие в разработке системы, процесс состоит из трех частей. Во-первых, накапливается множество данных.
«В.: А почему то, что может делать анализ данных, не может знать конкретно один маркетинг?..
О.: Ну потому что объем данных очень большой. То есть ты можешь знать все вообще. Данных становится слишком много, и их просто так человек, просто так в человеческий мозг они влезть точно не могут» (Тимлид аналитики данных, Организация 5, Россия).
Во-вторых, критерии, по которым ИИ оценивает сотрудников, разрабатываются в ходе предварительных исследований, включающих работу сторонних людей.
«Когда у нас ученик перестает учиться, после этого ему звонят, спрашивают, ты чего перестал учиться? Он говорит: потому что преподаватель не вовлечен. Ему сказали: почему не вовлечен, что значит не вовлечен? -- Ну, у него постоянно мобильник в руках, он сидит, играет или в Инстаграме сидит вместо того, чтобы меня учить» (Тимлид аналитики данных, Организация 5, Россия).
В-третьих, работа алгоритмов и критерии оценивания проверяются в ходе квазиэкспериментального исследования.
«В.: Как вы убеждаетесь в том, что вы делаете именно то, что нравится вашим потребителям?
О.: А/В-тесты. Мы проводим А/В-тестирование... Когда мы придумываем какую-то фичу и внедряем ее, после этого мы проводим А/В-тестирование, то есть это, по сути, эксперимент. Классический эксперимент. С контрольной и экспериментальной группами А, В. Делаем сплит, разбивку. Вот у них работает этот алгоритм, да, и посмотрим, перестанут ли учителя котов из-за этого алгоритма на уроки притаскивать или не перестанут» (Тимлид аналитики данных, Организация 5, Россия).
С точки зрения сотрудника, не вовлеченного в создание ИИ, процесс выглядит гораздо проще, при этом он становится менее понятным с точки зрения технических деталей.
«В.: Ты говоришь, что алгоритмы искусственного интеллекта оценивают качество уроков и качество взаимодействия "учитель--ученик".
А почему ты вообще им доверяешь?..
О.: Смотри, есть критерии, которые можно отдать на оценку этому искусственному интеллекту, а есть критерии, которые нельзя. Соответственно мы внутрь этих механизмов закладываем те процессы, которые можно трекать технически» (Руководитель отдела, Организация 5, Россия).
Таким образом, в ходе сложного, многоэтапного процесса локальное знание переводится в формализуемые критерии, которые затем проверяются в ходе «подгонки» модели ИИ к новым условиям.
Результатом становится автоматизация процессов повседневного мониторинга и контроля за сотрудниками: то, что раньше делали люди на местах, сейчас делают люди вместе с алгоритмами и через них.
Еще один пример трансформации локального знания представляет организация, которая создает технологии ИИ, предназначенные для управления персоналом в других организациях: речь идет об отслеживании состояния сотрудников, прогнозировании их профессионального выгорания и в пределе - ухода из компании.
Процесс получения знания за счет работы алгоритмов раскладывается на две ступени: соответствие формальным математическим критериям и проверка в ходе эмпирических исследований.
«Почему я понимаю, что это можно применять?.. Мы делаем фактически такой окололабораторный эксперимент. Мы взяли нашу модель. И я для себя на самом деле сейчас пытаюсь ответить на вопрос, а можно ли этому решению доверять или нет. С точки зрения математики, там все ОК... А применима эта модель или нет? Мы сейчас делаем очень просто: мы результаты работы этой модели показываем индивидуальным людям. Мы говорим: смотри, система про тебя говорит вот это: верю -- не верю, согласен -- не согласен, почему да -- почему нет. Мы предварительно человека проводим через батарею тестов, которая позволяет немножко околообъективно оценить его состояние. Как правило, лучшая поверка работы модели -- это практика» (Директор по HR-аналитике и организационному развитию, Организация 16, Россия).
Результатом является автоматизация управления персоналом: на уровне мониторинга и в пределе на уровне принятия решений.
«По мере "набития шишек", по мере развития технологий. не нужно будет подключать человека. То есть мы будем уверены, что если ML- модель на вот этих данных выплюнула вот такой ответ, то им можно стопроцентно пользоваться и решение очевидно» (Директор по HR- аналитике и организационному развитию, Организация 16, Россия).
В данном примере технология ИИ направлена на мониторинг работников ИТ-фирм, т. е. тех людей, которые подобные технологии разрабатывают. И здесь знание, получаемое благодаря МО и ИИ, взаимодействует с локальным знанием весьма любопытным образом.
«Наверное, наиболее существенная проблема именно в этих отраслях, это дорогие специалисты, и их достаточно мало, компании стараются их удерживать. И отсюда гораздо большая заинтересованность в подобных решениях. Вот. Ну и соответственно айтишники -- в большинстве своем они интроверты, им обратную связь получить тяжело. И соответственно, с другой стороны, самому работодателю очень тяжело из них что-то вытащить, чтобы они что-то сообщили. И вот наш инструмент позволяет их. друг с другом связывать и в общем-то улучшать жизнь обоих. Соответственно я отношусь к этому именно с этой точки зрения. То есть мне эта система позволяет существенно понимать, насколько я успешен как руководитель в коллективе, понять, как ко мне относятся мои сотрудники» (Технический директор, Организация 16, Россия).
Таким образом, круг замыкается: технологии ИИ служат для того, чтобы обеспечить взаимодействие между теми, кто участвует в их разработке, выступают в качестве посредника в организациях, в которых они создаются и внедряются.
Предварительные обобщения
По результатам проведенного анализа интервью с работниками ИТ-организаций сформулируем пять предварительных обобщений.
Первое. Внедрение ИИ в организации требует наличия других технологий -- методов машинного обучения, вычислительной техники, хранилищ данных, телекоммуникаций и др., -- и часто следует за внедрением этих технологий. Отличительной особенностью ИИ является осуществление некоторых действий автономно от разработчика. Модель, организующая анализ данных в режиме реального времени, посредством некоторого усложнения рабочего процесса может быть преобразована в модель, осуществляющую действия на основе подобного анализа. В некоторых случаях наши информанты участвовали в создании продукта, который ИИ не является, но потенциально может им стать и, возможно, скоро станет. Логика автоматизации, которой следуют организации, предполагает именно такой путь, хотя в реальной практике он не всегда проходится до конца.
Второе. Появление специалистов со знанием в нескольких областях типично для многих организаций Так, интервью, которые проводились автором в организациях, внедряющих электронную документацию в архивном деле, содержали указание на то, что успех предприятия зависит от знания ключевыми сотрудниками двух или трех областей: практики работы архивов, юриспруденции, программного обеспечения.. В чем в таком случае заключается специфика организаций, связанных с ИИ? Разделение труда в организациях, связанных с разработкой ИИ/МО, характеризуется особого рода сложностью и специфической кооперацией, принимающей структуру «матрешки». В идеально-типическом случае в центре процесса производства находится data scientist--разработчик модели, лежащей в основе ИИ. Модель представляет собой искусственную нейронную сеть или некоторую разновидность статистического анализа данных (их объединяют под именем «методов машинного обучения»). Специфика модели заключается в том, что данные для нее собираются в режиме реального времени, и по этой причине сама модель должна постоянно обновляться в полуавтономном или автономном режиме.
Data scientist сочетает знание трех областей: математики, которая необходима для выбора и построения эффективной модели, языков программирования, которые необходимы для реализации модели, и предметной области, где модель будет применяться. Знание предметной области нужно, чтобы понимать, какого рода модель требуется; знание математики -- для того, чтобы из множества вариантов моделей выбрать оптимальную. Программирование может полностью осуществляться самим разработчиком или отдаваться на откуп «чистым» программистам, тогда как другие две составляющие совместно, по-видимому, не могут быть делегированы другим работникам. Data scientist создает модель, которая, запускаясь, организует некоторый процесс. Именно этот процесс в соответствии с теоретическим определением, принятым в настоящей статье, и является ИИ.
Вокруг этого процесса возникает ряд должностей, и занимающие их сотрудники -- руководители, аналитики, кадровики и др. -- обладают интеракционной экспертизой по отношению к создателю модели. Они не могут сами создать модель, но обладают знаниями по крайней мере о двух (из трех) областях data scientist: математике и программировании (знание предметной области иногда присутствует, иногда -- нет). Это знание они сочетают со своей профессиональной областью, что и создает новый тип экспертизы.
Наконец, существуют профессии, также необходимые для создания ИИ (программисты, разметчики данных, тестировщики), которые не обладают интеракционной экспертизой и занимаются рутинизированным трудом. «Матрешечная» структура наблюдалась нами и в крупных, и в небольших организациях. В крупных организациях отдел, занимающийся ИИ, обычно относительно автономен внутри корпорации; интеракционная экспертиза характерна для сотрудников этого отдела, а также для тех сотрудников вне отдела, которые осуществляют с ним связь в рамках организации. Таким образом, мы наблюдаем «матрешку», состоящую из трех частей: внутри--data scientist с полноценной экспертизой в математике, предметной области и программировании, вокруг -- работники, сочетающие интеракционную экспертизу в области создания модели со знанием своей области, снаружи -- работники, чья деятельность необходима для внедрения ИИ, не обладающие интеракционной экспертизой. При этом статус профессий, входящих во внутренние части «матрешки», выше, чем у профессий, образующих ее внешний слой.
Третье. Новое разделение труда приводит к социально-экономической и профессиональной поляризации: в организациях появляется ряд высокооплачиваемых профессий, связанных с разработкой и внедрением ИИ; в то же время возникает полуквалифицированный рутинный труд, без которого, однако, ИИ не работал бы столь эффективно. При этом интеракционная экспертиза зачастую становится атрибутом новых престижных и высокооплачиваемых видов занятости. Является ли данная тенденция характерной для других видов деятельности, не связанных с внедрением ИИ? Это вопрос для будущих исследований.
Четвертое. В ходе создания и внедрения технологий ИИ локальное знание не исчезает: оно вытесняется, но возвращается в работах по отладке, проверке и подгонке модели, в труде тех, кто готовит данные, тестирует, проводит исследования. Данный процесс можно соотнести с тем, что Дастон [Daston 2018] называет Big Calculation: машины не заменяют людей, не уничтожают необходимость монотонного труда для осуществления вычислений, но трансформируют характер деятельности работников и сокращают их число. Подобным образом локальное знание (как и монотонный труд) не исчезают вовсе в процессе автоматизации в связи с внедрением ИИ. Они трансформируются, оседая в деятельности работников других профессий: тестировщиков, тех, кто ищет, «чистит», размечает данные, проводит подготовительные исследования и т. п.
Становится ли локального знания меньше или нет, и как именно меняется его характер -- вопросы для дальнейших исследований.
Пятое. Внедрение ИИ оказывает значительное влияние на процессы в тех организациях, которые внедряют ИИ, и в тех, куда он внедряется. С точки зрения организации, ИИ представляет собой воплощенную математическую модель некоторых (когнитивных или социальных) процессов, которая изменяется в режиме реального времени. Как создание самой модели, так и ее постоянное подстраивание и отлаживание требует человеческого труда. Вполне вероятно, что многие процессы развития искусственной социальности еще 148 не вышли за пределы организаций и влияют на конечных потребителей лишь опосредованно, через изменения в деятельности организаций. Данное наблюдение позволяет выдвинуть следующий тезис: исследования организаций представляют собой особый интерес для социальных аналитиков, рассматривающих проблематику искусственной социальности, причем не только в связи с разделением труда, но и в связи с анализом взаимодействий человек -- машина.
К последнему сюжету мы и обратимся в завершение статьи.
Вместо заключения
Вернемся к тому, с чего начинали, -- к определению информантами ИИ. Однако поставим теперь вопрос по-другому: как воспринимают ИИ те, кто с ним взаимодействует?
Для того чтобы ответить на данный вопрос, рассмотрим фрагменты из трех интервью.
1. «Искусственный интеллект должен дообучаться, изменяться, ну типа, он живет. Ну я даже не знаю, как сказать. Он реально живет. Просто живет. Сам по себе функционирует все время. Все умнее и умнее становится, зараза такая» (Тимлид аналитики данных, Организация 5, Россия).