Anthropic a introduit le tableau de bord de mise en cache des invites dans la console développeur Claude, offrant aux utilisateurs des informations détaillées sur les performances de la mise en cache. Le tableau de bord, accessible à l'adresse platform.claude.com/usage/cache, présente des métriques telles que le taux de lecture du cache, la composition de l'utilisation du cache et l'amortissement des écritures. Ces métriques aident les utilisateurs à comprendre l'efficacité de l'utilisation du cache, avec des données présentées sous des formats visuels comme des graphiques à barres empilées et des graphiques en séries temporelles. Le tableau de bord permet de filtrer par espace de travail, modèle et période, offrant une vue complète des activités de mise en cache. Dans un exemple récent, Claude Opus a traité 27,4 milliards de jetons d'entrée sur une semaine, atteignant un taux de lecture de 85,4 % et un amortissement des écritures de 8,65x. Cet outil améliore la capacité des utilisateurs de l'API à gérer le contenu pouvant être mis en cache, offrant des économies de coûts sur les accès ultérieurs au cache par rapport aux écritures initiales. Auparavant, les utilisateurs ne disposaient pas d'outils de visualisation pour évaluer l'efficacité de la mise en cache, se basant uniquement sur les champs de comptage de jetons dans les réponses de l'API.