Искусственный интеллект (ИИ) активно внедряется в рабочие процессы, автоматизируя более четверти цифровых задач. Однако, как показало новое исследование, вместо обещанного упрощения, он порождает «парадокс продуктивности», возлагая на сотрудников дополнительную нагрузку по управлению технологией. Работники вынуждены тратить часы на предоставление контекста, проверку качества и многократное повторение этих действий в разрозненных ИИ-инструментах, что приводит к появлению новых «узких мест».
Содержание
Парадокс ИИ: «ботосидение» и «ботофабрикация»
Согласно опросу 6000 офисных сотрудников, проведенному Glean’s Work AI Institute, в работе с ИИ проявляются два основных явления. Первое — «ботосидение» (botsitting), представляющее собой весь неоплачиваемый и нераспознанный труд, необходимый для того, чтобы ИИ был действительно полезен. Второе — «ботофабрикация» (botshitting), то есть использование результатов работы ИИ без должной проверки, понимания или доверия к их достоверности. Отчет был подготовлен экспертами из Work AI Institute, Университета Эмори, Стэнфордского университета, Калифорнийского университета в Беркли, Калифорнийского университета в Санта-Барбаре, Университета Северной Каролины в Шарлотте, Университетского колледжа Лондона и Университета Нотр-Дам.
Как отметила Ребекка Хайндс, руководитель исследовательского центра Glean — Work AI Institute, это «во многом порочный круг, который подпитывает сам себя». По её словам, предприятиям необходимо осознать и начать решать проблему «масштабного человеческого труда, который лежит в основе всего этого».
Растет использование ИИ и разочарование сотрудников
Искусственный интеллект становится неотъемлемой частью рабочего процесса. Исследование Glean’s Work AI Institute выявило, что 87% офисных работников используют ИИ, который уже автоматизирует более 25% их задач и экономит примерно 11 часов в неделю.
Тем не менее, только 13% опрошенных считают, что использование ИИ значительно улучшило производительность их компаний. Экономия времени, достигаемая благодаря ИИ, съедается необходимостью «ботосидения»: сотрудники тратят около одной трети своей рабочей недели (6,4 часа) на предоставление контекста ИИ, контроль его результатов, отладку ошибок, доработку сгенерированного контента и переключение между различными инструментами. По словам Хайндс, наблюдается «очень высокий уровень использования множества инструментов, которые зачастую не связаны между собой».
Крупные языковые модели (LLM) обучаются на огромных объемах информации из интернета, но не всегда на специфических корпоративных данных. Из-за этого сотрудникам часто приходится предоставлять дополнительную информацию о продуктах, клиентах, услугах или других деталях своей компании. Хайндс добавила, что сотрудники «часто испытывают разочарование, когда инструменты недостаточно хорошо понимают их повседневную работу, чтобы быть полезными». Кроме того, поскольку используются несколько инструментов, приходится многократно повторять одни и те же запросы.
«Это изнуряет сотрудников, так как их труд не только остается непризнанным, но часто не вознаграждается и не учитывается в организации», — пояснила она.
Рабочим также приходится исправлять результаты работы ИИ, которые, несмотря на кажущуюся завершенность, могут быть ошибочными, неполными или упускать важный контекст. Отладка является основным источником утомления, так как часто выполняется людьми, не участвовавшими в первоначальной генерации контента, что требует от них предварительного поиска фоновой информации.
Однако «не всякое «ботосидение» является плохим», подчеркнула Хайндс. «Безусловно, мы хотим, чтобы сотрудники имели определенный уровень контроля и ответственности».
Но когда такое управление становится излишним, это может привести к «ботофабрикации», когда пользователи публикуют сгенерированную ИИ работу без проверки, из-за перегруженности или нехватки времени. 69% пользователей признаются, что так поступают, а 41% заявляют, что иногда представляют работу, которую не смогли бы объяснить, если бы их попросили. Еще 28% винят ИИ в ошибках, которые были допущены ими самими.
«"Ботофабрикация" — это отказ от критического человеческого мышления, суждений и понимания, — объяснила Хайндс. — Вы перекладываете ту работу, которая абсолютно точно должна оставаться за человеком».
Сотрудники, использующие несколько ИИ-агентов, значительно чаще допускают «ботофабрикацию», добавила она. Это связано с высокой масштабируемостью агентов, которые могут выйти из-под контроля при отсутствии должных настроек и разрешений, что вынуждает перегруженных пользователей отказываться от проверок.
«Негативные последствия часто проявляются лишь через несколько шагов, — сказала Хайндс. — А затем требуется огромная работа по исправлению и расследованию, чтобы понять, где именно агент допустил ошибку».
Использование ИИ: баланс между помощью и контролем
Интересно, что более половины опрошенных сотрудников заявили, что получают от ИИ больше повседневной помощи, чем от своих руководителей, и считают взаимодействие с ИИ проще, чем с людьми.
Тем не менее, они сталкиваются с так называемой «проблемой Златовласки» в отношении раскрытия информации об использовании ИИ. Среди сотрудников, считающих себя активными пользователями ИИ, 54% используют неодобренные инструменты или применяют одобренные инструменты не по правилам, а 36% скрывают, насколько сильно ИИ им помогает.
Как объяснила Хайндс, в зависимости от контекста и уровня психологической безопасности в организации, демонстрация использования ИИ может быть «по-разному полезной или вредной». И, наоборот, сокрытие чрезмерного использования ИИ может сделать сотрудника менее ценным в глазах руководства. Она отметила, что «во многих организациях существует огромное давление, чтобы демонстрировать владение ИИ, показывать себя «продвинутым» пользователем».
Опыт успешных организаций
Отчет указывает, что «компании, которые вырываются вперед, действуют иначе. Они тратят большую часть своего времени не на непосредственное использование ИИ, а на работу вокруг него: определение контекста, четкое понимание «хорошего» результата, формирование суждений и принятие решений о том, что вообще не следовало доверять модели».
Самые прогрессивные организации проактивно решают проблемы, связанные с ИИ: предоставляют обучение и поддержку, рассматривают ИИ как возможность для перестройки работы и официально поощряют развитие навыков в области ИИ. Кроме того, в отчете отмечается, что самым сложным навыком является умение определять, когда ИИ не следует использовать.
Это «не просто клики по инструменту и использование токенов, а настоящие навыки, настоящее обучение», — сказала Хайндс. Помимо инвестиций в сотрудников, эти организации четко формулируют стратегию ИИ и объясняют её «почему». Управление ИИ также должно быть «живым и дышащим», требуя от компаний постоянной переоценки политик.
И это должно происходить на всех уровнях, включая высшее руководство, заявила Хайндс: «Важно, чтобы руководители использовали эту технологию, делились как историями успеха, так и неудачами».
Успешные компании также активно используют метрики, привязанные к существующим ключевым показателям эффективности (KPI). Они по-разному измеряют качество, эффективность и вовлеченность сотрудников, предоставляя данные в руки последних, чтобы те могли самостоятельно оценивать свои успехи во внедрении ИИ.
«Это меньше о слежке и больше об обратной связи относительно того, как мы работаем коллективно», — отметила Хайндс.
«Удивительно, но, возможно, не неожиданно, — сказала она, — что работники все чаще используют сам ИИ в качестве учителя и предпочитают его другим каналам обучения». Это подчеркивает важность инструментов с низким порогом входа (low-code, no-code), с несложной кривой обучения и учетом организационного контекста, которые интегрированы непосредственно в рабочие процессы.
«Это заметно отличается от того, что мы видели с предыдущими технологиями», — заключила она.
