Merkezi Olmayan Spekülatif Kod Çözme (DSD), dağıtık ağlarda büyük dil modeli (LLM) çıkarımını geliştirmek için çığır açan bir çerçeve olarak ortaya çıktı. Parallax'a entegre edilen DSD, geleneksel olarak token üretimini yavaşlatan düğümler arasındaki iletişim gecikmesi sorununu ele alıyor. Gecikmeyi ek hesaplama bant genişliğine dönüştürerek, DSD doğruluğu bozmadan işlem hacminde 2,6 kat artış ve iletişimde %37 azalma sağlıyor.
DSD, iki temel yenilik sunuyor: Toplu Yerleşim Kod Çözme ve Uyarlanabilir Doğrulama. Toplu Yerleşim Kod Çözme, birden fazla tokenı tek bir doğrulama döngüsünde birleştirerek senkronizasyon darboğazlarını azaltırken, Uyarlanabilir Doğrulama token doğrulamasını önemlerine göre optimize ederek hızda %15-20 artış sağlıyor ve kalite kaybı yaşanmıyor. Bu gelişmeler, daha yüksek işlem hacmi ve WAN gecikmesine daha az bağımlılık sağlayarak DSD'yi uzak kümeler arasında ajan muhakemesi ve kod üretimi gibi görevler için güçlü bir araç haline getiriyor.
Merkezi Olmayan Spekülatif Kod Çözme, LLM Çıkarım Verimliliğini Artırıyor
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
