В мировой ИТ-индустрии набирает популярность термин «токеномика» — стратегия управления растущими затратами на эксплуатацию нейросетей. Пока крупные корпорации, такие как Meta*, Uber и Salesforce, выражают обеспокоенность стоимостью генеративных инструментов и вводят лимиты на их использование, другие компании находят способы не только контролировать бюджет, но и значительно экономить на программном обеспечении.
Компания 8×8, специализирующаяся на разработке корпоративных средств связи, за последние полтора года сократила ежегодные расходы примерно на 5 миллионов долларов. Этого удалось достичь благодаря отказу от десятков сторонних сервисов и обучающих программ, функции которых теперь выполняет чат-бот Claude от компании Anthropic. По словам операционного директора 8×8 Джоэла Ниба, текущие затраты на ИИ все еще остаются значительно ниже суммы полученной экономии, что положительно сказывается на финансовой отчетности.
Что такое токеномика и почему она важна
Под токенами в сфере искусственного интеллекта понимаются базовые единицы информации, которые нейросеть обрабатывает или генерирует. Управление стоимостью этих единиц стало одной из главных тем в обсуждениях финансовых аналитиков и руководителей технологических гигантов. В обзорах отмечается, что количество упоминаний «токенов» в квартальных отчетах компаний выросло втрое по сравнению с прошлым годом.
- В Royal Bank of Canada объем использования токенов за последние полгода вырос на 500%.
- В Cisco заявили о ежедневном использовании внутреннего ИИ-бота третью всех сотрудников, что приводит к колоссальным нагрузкам на бюджет.
- Разработчик аналитического ПО Amplitude сообщает, что ведущие инженеры компании тратят тысячи долларов в месяц на оплату вычислительных мощностей нейросетей.
Стратегии оптимизации расходов на ИИ
Руководители компаний внедряют различные системы мониторинга, которые помогают выбирать наиболее бюджетные модели нейросетей для каждой конкретной задачи. Например, новейшая модель Claude Opus стоит в 1,7 раза дороже предыдущих версий. В связи с этим в компаниях рассматривают возможность ограничения доступа к самым мощным инструментам, если аналогичный результат может быть достигнут с помощью менее ресурсоемких алгоритмов.
Некоторые организации, напротив, стимулируют сотрудников максимально использовать ИИ, видя в этом залог долгосрочной прибыли. Бренд одежды Baseball Lifestyle 101 обязал своих топ-менеджеров тратить на работу с токенами сумму, эквивалентную 20% их ежемесячной заработной платы. Такой подход уже принес результаты: нейросеть проанализировала остатки товаров и помогла сформировать заказ на 1 миллион долларов, обнаружив дефицит популярных моделей шорт с принтами.
Влияние на рабочие процессы и производительность
Внедрение ИИ позволяет автоматизировать рутинные задачи, такие как составление финансовых отчетов или планирование фотосессий, что в перспективе может привести к сокращению набора персонала на младшие позиции. В компании 8×8 сотрудников, которые отказываются осваивать инструменты ИИ, предупреждают о возможной потере конкурентоспособности. В обзоре деятельности компании подчеркивается, что использование технологий не должно приводить к простою сотрудников: сэкономленное время рекомендуется направлять на решение более сложных стратегических задач.
Интересным примером самооптимизации стала работа операционного директора 8×8. Когда выяснилось, что ежедневная рассылка дайджестов, создаваемая ИИ, потребляет слишком много ресурсов, нейросеть попросили саму переписать алгоритм своей работы. В результате потребление токенов для этой задачи снизилось на 80% без потери качества контента.
* — деятельность компании запрещена на территории РФ
