Экономия 3 миллиардов токенов в неделю: руководство по кэшированию Claude Code от инженера Anthropic
Авторы из Anthropic объясняют, как система кэширования (prompt caching) в Claude Code позволяет значительно экономить токены. Кэшированные токены стоят лишь 10% от обычных. Например, 91 миллион кэшированных токенов эквивалентны по стоимости примерно 9 миллионам обычных. Кэш делится на три уровня: системный (инструкции, инструменты), проектный (CLAUDE.md, правила) и диалоговый (история общения). Ключевой принцип — префиксное соответствие: если начало нового запроса совпадает с уже обработанным, модель использует кэш.
Время жизни кэша (TTL) в подписке Claude Code составляет 1 час. Для API и Sub-agent по умолчанию — 5 минут. Основные советы пользователям:
1. Не оставлять сессию бездействующей более часа.
2. При смене задачи выполнять четкий «handoff» (резюмировать прогресс) и начинать новую сессию.
3. Помещать большие документы в Projects, а не в диалог.
4. Избегать переключения моделей (включая режим «opus plan»), так как это сбрасывает кэш.
Эти привычки помогают поддерживать высокий процент повторного использования кэша, что снижает затраты, увеличивает эффективность сессий и уменьшает нагрузку на сервис. Мониторинг показателя cache read в панели управления помогает оценить эффективность использования кэша.
marsbit05/24 00:38
