Anthropic, Claude Geliştirici Konsolu içinde Prompt Önbellekleme Panosu'nu tanıttı ve kullanıcılara önbellekleme performansı hakkında ayrıntılı bilgiler sunuyor. platform.claude.com/usage/cache adresinden erişilebilen pano, önbellek okuma oranı, önbellek kullanım bileşimi ve yazma amortismanı gibi metrikleri içeriyor. Bu metrikler, kullanıcıların önbellek kullanımının verimliliğini anlamalarına yardımcı oluyor ve veriler yığılmış çubuk grafikler ve zaman serisi grafikler gibi görsel formatlarda sunuluyor.
Pano, çalışma alanı, model ve zaman dilimine göre filtreleme yapmaya olanak tanıyarak önbellekleme faaliyetlerinin kapsamlı bir görünümünü sağlıyor. Yakın zamanda yapılan bir örnekte, Claude Opus bir hafta içinde 27,4 milyar giriş tokenını işleyerek %85,4 okuma oranı ve 8,65x yazma amortismanı elde etti. Bu araç, API kullanıcılarının önbelleğe alınabilir içeriği yönetme yeteneğini artırarak, ilk yazımlara kıyasla sonraki önbellek erişimlerinde maliyet tasarrufu sağlıyor. Önceden, kullanıcılar önbellekleme etkinliğini değerlendirmek için görselleştirme araçlarından yoksundu ve yalnızca API yanıtlarındaki token sayısı alanlarına dayanıyordu.
Anthropic, Önemli Metriklerle Prompt Önbellekleme Panosunu Tanıttı
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
