vLLM projesi, büyük dil modellerinin dağıtımını ve işletimini kolaylaştırmayı amaçlayan vLLM Recipes web sitesinin önemli bir yeniden tasarımını duyurdu. 22 Nisan'da açıklanan güncellenmiş platform, belirli görevler için belirlenmiş donanımda belirli modellerin çalıştırılması gibi yaygın sorulara tıklanabilir yanıtlar sunan kullanıcı dostu bir arayüz tanıtıyor. Site artık HuggingFace tarzı bir URL yapısına sahip olup, optimize edilmiş yapılandırma sayfalarına doğrudan erişim sağlıyor.
Yenilenen vLLM Recipes, Qwen3.6-35B-A3B ve Kimi-K2.6 gibi çeşitli modeller için NVIDIA H100/H200/B200/B300 ve AMD MI300X/MI325X/MI355X gibi çoklu GPU platformlarında optimize edilmiş `vllm serve` CLI komutları sunuyor. Kullanıcılar, Arcee AI, Baidu, ByteDance, DeepSeek, Google, Meta ve Microsoft gibi sağlayıcılara göre yapılandırmaları keşfedebiliyor. Platform, vLLM ile tamamen uyumlu olup resmi dokümantasyon, GitHub deposu ve ayrıntılı model-donanım uyumluluk listesine bağlantılar sağlıyor.
vLLM Tarifleri Web Sitesi, Gelişmiş Model ve Donanım Optimizasyonu İçin Yenilendi
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
