Économisez 300 millions de Tokens par semaine : Le guide de mise en cache du code Claude par un ingénieur d'Anthropic
Claude Code utilise un mécanisme de cache pour réduire considérablement le coût des tokens. Les tokens mis en cache ne coûtent que 10% du prix des tokens d'entrée normaux. L'auteur a ainsi économisé 3 milliards de tokens en une semaine, dont 91 millions en un seul jour, grâce à la réutilisation du contexte.
Le cache fonctionne par correspondance de préfixe et est organisé en trois couches : système (instructions globales), projet (CLAUDE.md, règles) et conversation (historique). Pour le forfait Claude Code, la durée de vie du cache (TTL) est d'une heure. Les actions qui réinitialisent le cache incluent le changement de modèle et l'activation du mode "Opus plan".
Pour optimiser l'utilisation :
- Ne laissez pas une session inactive plus d'une heure.
- Lors d'un changement de tâche, effectuez une transition claire (session handoff) plutôt que de reprendre une ancienne conversation.
- Évitez de basculer fréquemment entre les modèles.
- Pour les grands documents, utilisez la fonctionnalité Projects plutôt que de les coller dans le chat.
En surveillant le taux de réutilisation du cache (cache read), les utilisateurs peuvent prolonger efficacement leurs sessions et réduire leurs coûts, un objectif aligné avec les intérêts d'Anthropic en matière d'efficacité des services.
marsbit05/24 00:41
