Anthropic представила Панель управления кэшированием запросов в консоли разработчика Claude, предоставляя пользователям подробную информацию о производительности кэширования. Панель, доступная по адресу platform.claude.com/usage/cache, включает такие метрики, как коэффициент чтения из кэша, состав использования кэша и амортизация записи. Эти метрики помогают пользователям понять эффективность использования кэша, при этом данные представлены в визуальных форматах, таких как сложенные столбчатые диаграммы и графики временных рядов.
Панель позволяет фильтровать данные по рабочему пространству, модели и периоду времени, обеспечивая всесторонний обзор активности кэширования. В недавнем примере Claude Opus обработал 27,4 миллиарда входных токенов за неделю, достигнув коэффициента чтения 85,4% и амортизации записи 8,65x. Этот инструмент улучшает возможности пользователей API по управлению кэшируемым контентом, предлагая экономию затрат при последующих попаданиях в кэш по сравнению с первоначальными записями. Ранее пользователи не имели инструментов визуализации для оценки эффективности кэширования, полагаясь только на поля подсчёта токенов в ответах API.
Anthropic представила панель управления кэшированием подсказок с ключевыми метриками
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
