Всего 0,99 доллара за миллион токенов.
Это реальная стоимость в счетах самой SemiAnalysis — самого хардкорного исследовательского учреждения по полупроводникам в Кремниевой долине.
Но еще более взрывоопасна другая цифра: Расходы на токены для внутренней большой модели уже составляют 30% от общего фонда заработной платы сотрудников.
Звучит немало — но если посмотреть с другой стороны, на эти деньги покупается продуктивность, которую раньше нужно было покрывать человеческими ресурсами, стоящими в несколько раз дороже. На каждого сотрудника в месяц приходится почти 5 миллиардов токенов, что более чем в 5 раз превышает уровень Meta, а ключевые сотрудники потребляют более 100 миллиардов в месяц.
Задачи, на которые раньше уходило несколько часов работы младшего аналитика — преобразование моделей Excel, создание диаграмм для финансовых отчетов — теперь выполняются за считанные минуты и стоят всего несколько долларов.
Оценка SemiAnalysis попадает в самую точку: Это не 10-процентный прирост эффективности, а переписывание единичной экономики профессиональных услуг.
Исследовательские компании, хедж-фонды, юридические фирмы — во всех отраслях, живущих за счет человеческого мозга, токены рано или поздно будут составлять 20-30% от фонда заработной платы.
Генеральный директор Nvidia Дженсен Хуанг волнуется больше всех.
На конференции GTC в этом году он прямо заявил: Инженер с зарплатой в 500 тысяч долларов, а к концу года тратит на токены меньше 250 тысяч?
«Я сойду с ума.»
Он планирует выдать каждому инженеру Nvidia токен-бюджет, эквивалентный полугодовой зарплате, а также заставить 75 000 сотрудников работать бок о бок с 7,5 миллионами ИИ-агентов.
Не использовать ИИ? По словам Хуанга, это все равно, что дизайнеру микросхем настаивать на использовании бумаги и карандаша.
Токен больше не инструмент, он становится «средством производства» новой эпохи.
Но другая половина Кремниевой долины сходит с ума из-за счетов за ИИ
Интересно, что пока SemiAnalysis экономит реальные деньги с помощью токенов, гиганты Кремниевой долины ломают голову над счетами за ИИ.
Uber — самый классический пример.
В конце прошлого года компания внедрила Claude Code для 5000 своих инженеров и даже создала рейтинг — чем больше используешь, тем выше позиция, внутренняя конкуренция накалилась до предела.
Результат оказался слишком успешным: В феврале 32% инженеров использовали ИИ, в марте показатель взлетел до 84%, к апрелю 95% инженеров ежемесячно пользовались ИИ, 70% отправленного кода генерировалось ИИ, а годовой бюджет — был уже полностью израсходован.
Технический директор заявил, что «бюджет нужно переделывать с нуля». Позже стало еще жестче — Bloomberg сообщил, что Uber установил для каждого сотрудника лимит в 1500 долларов на токены в месяц, превышение требует специального одобрения.
Но операционный директор Эндрю Макдональд в подкасте высказал суровую правду: Использование ИИ действительно растет, но его связь с инновациями в потребительских функциях... пока не видна.
Ситуация в Microsoft еще более сюрреалистична. В прошлом месяце The Verge сообщил, что Microsoft отменяет большинство лицензий на Claude Code, переходя на собственный GitHub Copilot CLI.
Причина проста: Деньги улетают быстрее, чем появляется результат.
Вице-президент Nvidia по прикладному глубокому обучению Брайан Катанцаро в апреле этого года выразился еще прямее: «Для моей команды затраты на вычисления намного превышают затраты на сотрудников.»
Исследование MIT 2024 года: в профессиях, где визуальная составляющая является основной, автоматизация с помощью ИИ экономически оправдана только в 23% случаев.
В остальных 77% случаев нанять человека дешевле, чем использовать ИИ.
Были даже жалобы инженеров на то, что ИИ-агенты в процессе работы «уничтожили его базу данных и сеть» — он назвал это ценой «чрезмерного использования».
Заоблачные бюджеты, неконтролируемое использование, постоянные провалы — Кремниевая долина переживает самый раздирающий этап ИИ-экономики.
С одной стороны — беспрецедентная производительность благодаря технологиям, с другой — счета, растущие с такой же беспрецедентной скоростью.
Обвал затрат только начинается
Но ключевой тезис SemiAnalysis таков: Не смотрите на сегодняшние цены, обвал затрат только начался.
Сначала о программной части.
Запуск DeepSeek R1 на B300 с помощью трех уровней чисто программной оптимизации (wideEP, disagg и MTP) позволяет поднять пропускную способность с одного GPU с базовых 1000 токенов/сек до 14 000 токенов/сек — 14-кратный прирост, достигнутый исключительно кодом.
Теперь об аппаратной части.
Пропускная способность оптимально сконфигурированного GB300 NVL72 в 17 раз выше, чем у H100, а при переходе на точность FP4 — и вовсе в 32 раза.
Заявленная цена Opus 4.7 составляет 5 долларов за миллион входных и 25 долларов за миллион выходных токенов, что кажется недешевым.
Но из-за того, что соотношение входных и выходных данных в рабочей нагрузке агентов достигает 300:1, а уровень кэширования превышает 90%, фактическая смешанная стоимость снижается до 0,99 доллара.
Менее одной пятой от заявленной цены.
Сложив вместе программные и аппаратные улучшения, трудно избежать вывода: Расширение валовой маржи больших моделей — не разовая ценовая случайность, а структурный тренд.
ARR (годовой регулярный доход) Anthropic в этом году вырос с 9 до более чем 44 миллиардов долларов, а валовая маржа подскочила с 38% до более чем 70% — Токены дешевеют, но продающие их люди зарабатывают еще больше.
Отчет Gartner за март этого года подтверждает это: к 2030 году стоимость логического вывода (inference) для триллионных больших моделей снизится более чем на 90% по сравнению с 2025 годом.
Прогноз SemiAnalysis ясен: если вы хотите оценить цену токена в 2027 году, ответ одно слово — снизится.
Деньги потрачены. И что дальше?
В этом и заключается нынешний раскол в мире ИИ: глобальные технологические компании в этом году уже объявили о капитальных затратах на ИИ в размере 7400 миллиардов долларов, что на 69% больше, чем в прошлом году; в то же время темпы увольнений в технологической отрасли уже превысили показатели прошлого года.
Деньги горят, людей увольняют, но главный экономист Goldman Sachs высказал суровую правду — Фактическое влияние ИИ на экономику до сих пор практически равно нулю.
Дело не в том, что ИИ не работает, а в болезненных преобразованиях, через которые проходит каждая инфраструктурная революция: Сначала тратятся деньги на прокладку труб, потом ждут, когда по ним пойдет вода.
Так было с электрическими сетями, с интернетом, и с ИИ будет не иначе.
Разница лишь в том, что на этот раз скорость прокладки «труб» и скорость, с которой «вода» по ним придет, — это масштабы, невиданные предыдущим поколением.
SemiAnalysis уже стоит на том берегу, куда пришла «вода» — 30% зарплатного фонда обменяли на многократный рычаг производительности, а кривая затрат продолжает резко снижаться.
Что касается других компаний: переходить реку сейчас или догонять, когда на том берегу уже построили город.
Источники:
https://x.com/SemiAnalysis_/status/2070915305858007345
Эта статья из WeChat Official Account «新智元» (Xin Zhi Yuan), автор: ASI启示录, редактор: 所罗门
