Оригинальное название: Token Budget Wars
Оригинальный автор: Jaya Gupta
Оригинальная компиляция: Peggy
Примечание редактора: Корпоративный ИИ переходит от этапа «внедрять или нет» к этапу «как вести учёт».
За последние два года многие компании поощряли сотрудников использовать ИИ, скорее, чтобы идти в ногу с технологическими трендами и конкурентным давлением. Но когда затраты на ИИ-вывод из экспериментального бюджета превращаются в постоянные операционные расходы, генеральные директора (CEO) и финансовые директора (CFO) начинают задавать более практичный вопрос: какую реальную ценность создаёт ИИ? Что мы получаем взамен за каждый потраченный доллар на токены?
В этом и заключается суть «Войны токен-бюджетов». Речь идёт не просто о желании компаний сократить счета за ИИ, а о необходимости переоценить, какие бизнес-процессы заслуживают больших вычислительных затрат, какие задачи можно перевести на более дешёвые модели, какие процессы можно заменить аутсорсингом или ручным трудом, а какие представляют собой лишь неэффективный расход.
Самое важное в статье то, что объём использования ИИ не равен ценности. В эпоху SaaS использование обычно означало, что программное обеспечение внедрено; но в эпоху ИИ потребление токенов лишь говорит о том, что «счётчик работает». Один и тот же рабочий процесс может стоить в разы дороже из-за различий в промптах, контексте, выборе модели и количестве повторных попыток. Рост счетов может означать как реальную работу ИИ, так и бесполезную трату вычислительных ресурсов системой.
Таким образом, ключевой задачей следующего этапа корпоративного ИИ является не только способность моделей, но и возможность соотнести затраты на токены с бизнес-результатами. Первый этап доказал, что ИИ может выполнять работу; второй этап должен ответить на вопрос: стоит ли платить за эту работу.
Ниже представлен оригинальный текст:
Корпоративный ИИ перешёл от «внедрять или нет» к «как распределять».
На высшем уровне в компаниях новой «валютой» становится способность количественно оценивать возврат на инвестиции (ROI) в ИИ. Каждому функциональному подразделению задают один и тот же вопрос: что вы произвели? Какова стоимость? За последние два года, наблюдая за конкурентами, объявляющими о росте производительности, генеральные директора, с одной стороны, просыпались и смотрели CNBC с Джимом Крамером (#медвежий_настрой), а с другой — требовали от всей компании использовать ИИ. Но настоящее давление создаёт последующий вопрос: докажите мне ценность.
Claude был выпущен в ноябре 2025 года, но к тому времени большинство компаний уже утвердили свои годовые бюджеты на 2026 год. К первому кварталу фактическое использование компаниями значительно превысило первоначальные планы. Затраты на вывод (инференс) перестали быть статьёй бюджета для экспериментов и превратились в постоянные операционные расходы. В связи с этим возникает новый вопрос: где же ИИ действительно создаёт ценность?
Ответить на этот вопрос сложно, потому что полезность токенов не измеряется количественно. В счёте не указано, заменяет ли эти расходы ручной труд, создаёт ли доход, снижает ли риски, ускоряет ли процессы или это просто группа инженеров, накручивающая токены ради рейтинга (#metamates). Когда расходы составляют всего несколько сотен тысяч долларов, это всё ещё выглядит как эксперимент. Но по достижении определённого порога, например, семизначной суммы, это становится инфраструктурой. Технические различия начинают оказывать реальное влияние на отчёт о прибылях и убытках: один и тот же рабочий процесс с одним и тем же набором входных данных может обойтись в 5–10 раз дороже при двух разных запусках, при этом внешне никаких проблем не видно. В масштабах эксперимента такие колебания уже дороги; но в масштабах инфраструктуры это становится цифрой, которую финансовый директор должен объяснять генеральному директору.
Можно назвать это «предельной полезностью токена»: бизнес-ценность, создаваемая каждым дополнительным долларом затрат на вывод. Именно эта цифра действительно важна на этапе масштабирования, и именно её большинство компаний сейчас не видят.
Вопрос в совете директоров смещается с «полезен ли ИИ» на «где именно ИИ создаёт реальный рычаг воздействия». Именно поэтому так называемая война токен-бюджетов по сути является борьбой за право распределять токены.
А борьба за право владения токенами быстро накаляется, потому что сталкивается с тридцатилетним инстинктом топ-менеджеров: большая команда означает большую должность, больший объём ответственности и большую власть. Раньше видимым маркером успеха старшего менеджера был размер его команды — прямые подчинённые, непрямые подчинённые и количество людей в организационной структуре.
Но когда интеллект становится дефицитным ресурсом, новым маркером становится: сколько интеллекта вы можете направлять.
Расходы на ИИ по сути конкурируют с затратами на рабочую силу.
Большинство запросов на бюджет для ИИ по сути представляют собой одно из трёх утверждений: заменить внешнюю рабочую силу (аутсорсинг), заменить внутреннюю рабочую силу или создать новый доход.
У сотрудника есть зарплата. У контракта на бизнес-процессный аутсорсинг (BPO) есть цена за тикет, страховой случай, счёт-фактуру или проверку. Люди понимают эти единицы измерения. Но стоимость вывода сложнее, потому что итоговая стоимость выполнения задачи зависит от того, как система работает в процессе. Задача по страховому случаю, требующая трёх повторных попыток, ручной корректировки и вызова передовой модели, может оказаться дороже, чем внешняя рабочая сила, которую она должна была заменить. Именно поэтому дискуссия смещается в сторону: какова стоимость достижения одного результата? Например, стоимость одного решённого тикета, одного обработанного страхового случая, одного проверенного контракта, одного завершённого счёта-фактуры, одной предотвращённой новой позиции, одного удержанного клиента или стоимость конвертации одного доллара дохода.
Топ-менеджеры уже осознали, что BPO — это самое простое место для установления базовых показателей, потому что эта работа уже оценивается по принципу «завершённая единица». Сравнение же внутренних сотрудников с ИИ гораздо сложнее, потому что сотрудники делают много вещей в день, включая прокрутку TikTok во время обеденного перерыва; повышение производительности часто выражается в предотвращении найма или высвобождении распределённых мощностей; а менеджеры также сопротивляются сокращению команды, основанному лишь на частичной автоматизации. BPO предоставляет бизнес-подразделениям измеримую базовую линию.
Это отличается от логики SaaS. SaaS приучил компании рассматривать использование как косвенный показатель ценности.
Но ИИ ломает эту логику. Количество вычислительных ресурсов, потребляемых одним и тем же рабочим процессом, может сильно различаться из-за промптов, извлечённого контекста, выбранной модели, вызванных инструментов, количества повторных попыток и того, завис ли агент. Единица измерения в счёте — токен — стабильна, но объём работы, который она представляет, — нет.
Если быть точнее: сигнал и шум используют одну и ту же единицу измерения. Рост счёта за токены может означать, что выполняется реальная работа; но также может означать, что вычислительные мощности тратятся впустую на плохие промпты, нерелевантный контекст, ненужные вызовы инструментов, повторные выводы и избыточно мощные модели. Счета за токены у двух компаний могут быть абсолютно одинаковыми, но бизнес-процессы под ними совершенно разные: одна компания превращает вывод в результаты, другая платит за бесполезную суету, и оба этих случая в строках счёта выглядят одинаково.
Использование в SaaS говорит вам: программное обеспечение внедрено. Использование в ИИ говорит вам только: счётчик работает. Оно не говорит вам, действительно ли компания работает эффективно.
Почему предельную полезность токена трудно увидеть?
Есть три основные причины.
Первая — это длинный хвост повторных попыток. Если вероятность того, что агент правильно завершит рабочий процесс с первой попытки, равна p, то ожидаемое потребление токенов на один решённый рабочий процесс примерно увеличивается пропорционально T/p, где T — базовая стоимость. Если процент успешного завершения падает с 90% до 70%, эффективная стоимость решения каждой проблемы увеличится примерно на 28%, а не на 20%, потому что неудачи имеют кумулятивный эффект. В корпоративных рабочих процессах входные данные часто неструктурированы, а исключительные случаи важны. Неудачи не только снижают точность, но и меняют экономику.
Вторая — это раздувание контекста. Для операций, сильно зависящих от механизма внимания, стоимость вывода примерно растёт как O(n²) с увеличением длины контекста. Следовательно, удвоение длины контекста примерно учетверяет стоимость вывода. Все хотят, чтобы модель располагала достаточной информацией, поэтому системы часто предоставляют её с избытком: вместо пяти документов поиск извлекает пятьдесят; коннектор загружает всю цепочку писем; агент продолжает работу с давно устаревшей историей диалога.
Третья — это маршрутизация. Когда команда не знает, какая модель «достаточно хороша», по умолчанию используется самая мощная. Базовая задача классификации может выполняться на той же модели, что предназначена для сложных рассуждений. Когда количество вызовов достигает миллионов, выбор между передачей простых задач маленьким моделям и выполнением всех задач на передовых моделях часто определяет разницу между управляемым счётом и проблемой уровня совета директоров.
Компании не из сферы ПО почувствуют эту боль в виде «трансформации». Компании-разработчики ПО увидят эту проблему первыми, потому что оптимизируемая работа уже хорошо инструментирована. У инженерных команд есть метрики: PR, коммиты, деплои, инциденты, время цикла, среднее время устранения, и эти метрики связаны с продуктом. Хотя и не идеально, такую работу легче измерить.
Компании не из сферы ПО почувствуют эту проблему острее, потому что их работа носит операционный характер. Например, страховые случаи, андеррайтинг, тикеты поддержки, проверки на соответствие, аномалии в цепочке поставок, споры по платежам. Или компании, владеющие физическими активами, столкнутся с той же проблемой. Эти рабочие процессы раньше обычно измерялись ручным трудом, временем цикла, соблюдением SLA (соглашений об уровне обслуживания) и уровнем ошибок, и часто к ним предъявлялись более высокие требования — они должны были выдерживать аудит, а не просто быть верными в среднем. Единицы работы и единицы затрат не говорят на одном языке и не находятся в одном подразделении. Технические команды видят потребление токенов, бизнес-подразделения видят изменения в рабочих процессах, но чтобы связать одно с другим, нескольким командам сначала нужно согласовать, «что именно мы измеряем».
Я считаю, что для компаний-разработчиков ПО война токен-бюджетов станет проблемой измерения производительности, что соответствует множеству предыдущих «сокращений из-за ИИ»; а для компаний не из сферы ПО это станет проблемой трансформации.
Недостающий слой — это атрибуция от токенов к результатам. Компаниям нужен преобразующий слой, который свяжет расходы на вывод с выполненной работой и достигнутыми бизнес-результатами. Этот слой должен ответить на три вопроса: Какова реальная стоимость этого рабочего процесса, включая повторные попытки и корректировки? В траектории выполнения агента какие части действительно важны, а какие — лишь бесполезная суета? Изменила ли эта работа операционную модель — например, меньше тикетов на одного агента поддержки, более короткий цикл обработки страховых случаев, меньший бюджет на BPO, отложенный найм? Следующий уровень — это атрибуция результатов на языке бизнеса. Не просто сказать: «Этот рабочий процесс стоил 2.13 доллара», а сказать: обработка таких страховых случаев агентом дешевле, чем BPO, но если полис требует дополнительных документов по исключениям, длинный хвост повторных попыток разрушит экономику.
Измерение станет памятью. Чтобы связать токен с результатом, компания должна зафиксировать всё, что происходило между ними: что видел агент, что он извлёк, какие инструменты вызвал, что проигнорировал, где делал повторные попытки, когда его действия перекрывались человеком, какое правило исключения было применено, какой прецедент сыграл роль, и почему один путь был успешным, а другой — нет. Слой измерения должен записывать траекторию принятия решений, и это именно то, чего компаниям почти никогда не хватало раньше. Системы записи могут фиксировать, что произошло, но редко — почему. Например, CRM может сказать, что сделка отложена, но не может показать те не записанные суждения, которые стояли за прогнозом продаж.
Обоснование решений — один из самых подверженных искажению и быстрому исчезновению активов в компании, потому что оно существует в тредах Slack, цепочках писем, эскалационных встречах и в головах людей. Но проблема в том, что люди уходят, а процессы меняются.
ИИ меняет это, потому что агент генерирует траекторию. Каждый поиск, вызов инструмента, повторная попытка, эскалация, ручная корректировка и итоговое решение становятся частью пути от контекста к действию и к результату. Изначально компании будут фиксировать эти траектории, чтобы оправдать расходы. Но как только эти траектории будут зафиксированы, они станут ценнее самих отчётов о затратах, потому что превратятся в постоянную запись о том, как организация фактически принимает решения. (Кашель, граф контекста, хотя я действительно устал слышать это слово в последнее время.)
Настоящий приз — это слой распределения. Если вывод становится оплачиваемым по факту использования ресурсом в операционной модели клиента, то каждый доллар должен доказывать, что он стоит потраченного. Какие поставщики могут объяснить, когда токены превращаются в результаты, когда — нет, и почему?
Компании не разберутся в этом полностью самостоятельно. Они будут покупать это как трансформацию. В компаниях из списка Fortune 500 этот сценарий уже разыгрывался много раз: пристегнитесь, наймите McKinsey, переманите каждого бывшего сотрудника Palantir с рынка, и пусть генеральный директор продвигает изменения сверху вниз. Атрибуция от токенов к результатам также появится подобно ERP, BI и цифровой трансформации: как «проект», спонсируемый топ-менеджментом, с поддерживающей инфраструктурой, который в итоге станет новым единым источником истины. Основатели, способные сделать это, соберут команды другого типа, и сами они будут отличаться от традиционного архетипа предпринимателя.
Тот, кто овладеет атрибуцией от токенов к результатам, сможет принимать решения о распределении: каким рабочим процессам стоит выделить больше вычислительных ресурсов, какие — ограничить, какие — переключить на более дешёвые модели, какие — оставить людям, какие — заменить BPO. И как только вы сможете принимать эти решения, вы будете контролировать поток расходов на ИИ внутри компании и получите доверие, необходимое для распределения этих ресурсов.
Первый этап корпоративного ИИ доказал: модели могут выполнять работу. Следующий этап определит: за какую часть этой работы действительно стоит платить. Как сказал Чарли Мангер: покажите мне стимулы, и я покажу вам результат.
Ссылка на оригинал
