Yapay zeka bulut sağlayıcısı Zyphra, AMD'nin MI355X çipini kullanarak bir kıyaslama testi gerçekleştirdi ve performansını NVIDIA'nın B200 modeliyle karşılaştırdı. DeepSeek V3.2 ve GLM-5.1 gibi modellerin çalıştırıldığı testler, AMD'nin VRAM kapasitesindeki avantajını ortaya koydu; 288GB ile B200'ün 180GB'ına kıyasla, çoklu GPU kurulumlarına gerek kalmadan daha verimli uzun metin işleme imkanı sağladı. Ancak, AMD'nin MI355X'i, çipler arası bağlantı konusunda zorluklar yaşamakta ve NVIDIA'nın NVLink bant genişliği yeteneklerinin gerisinde kalmaktadır.
Bu sınırlamaları aşmak için Zyphra, veri transfer verimliliğini artıran Tensor Sequence Parallelism ve Tree Attention algoritmalarını geliştirdi. NVIDIA'nın B200 modeli tek istek hızında önde olsa da, Zyphra'nın optimize edilmiş yazılım yığını MI355X'in uzun bağlam senaryolarında veri işleme hızındaki farkı kapatmasını sağlıyor. Zyphra, MI355X'in yeteneklerini daha büyük modelleri destekleyerek ve yeni kuantizasyon şemaları geliştirerek daha da artırmayı planlıyor.
Zyphra, Uzun Metin Çıkarımında AMD MI355X'i Test Ediyor, NVIDIA B200'e Meydan Okuyor
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
