Hugging Face, CEO'su Clem Delangue tarafından duyurulduğu üzere, önceden derlenmiş GPU operatörleri için bulut tabanlı bir çözüm olan Kernels Hub'ı resmi olarak başlattı. Bu yeni hizmet, grafik kartı performansını optimize etmek için kritik öneme sahip GPU çekirdeklerinin kurulumunu basitleştirmeyi amaçlıyor. Geleneksel olarak, FlashAttention gibi bu çekirdeklerin derlenmesi önemli kaynaklar ve zaman gerektiriyordu ve sıklıkla sürüm uyumsuzlukları nedeniyle hatalara yol açıyordu. Kernels Hub, çeşitli GPU ve sistem ortamları için önceden derlenmiş çekirdekler sunarak bu zorlukları aşmayı hedefliyor ve geliştiricilerin bunları tek bir kod satırıyla uygulamasına olanak tanıyor.
Hizmet, NVIDIA CUDA, AMD ROCm, Apple Metal ve Intel XPU gibi birden fazla donanım hızlandırma platformunu destekliyor ve Hugging Face'in çıkarım çerçevesi TGI ile Transformers kütüphanesine entegre edilmiştir. Geçen Haziran ayında test aşamasında başlatılan Kernels Hub, şimdi Models, Datasets ve Spaces ile birlikte Hugging Face Hub'da birinci sınıf bir depo türü olarak yükseltildi. Şu anda, dikkat mekanizmaları ve kuantizasyon gibi temel kullanım durumlarını kapsayan 61 önceden derlenmiş çekirdek mevcut.
Hugging Face, GPU Optimizasyonu için Kernels Hub'ı Tanıttı
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
