PrismML, tüketici akıllı telefonlarında çalışmak üzere tasarlanmış 27 milyar parametreli ilk yapay zeka modeli Bonsai 27B'yi piyasaya sürdü. 3,9 GB'a sıkıştırılmış model, bir iPhone 17 Pro Max'te saniyede 11 token hızında çalışıyor. 5,9 GB'a sıkıştırılmış üçlü versiyonu ise bir M5 Pro dizüstünde saniyede 26 token hızına ulaşıyor. Caltech teknolojisine dayanan bu sıkıştırma, model ağırlıklarını ikili değerlere indirerek modeli tam hassasiyetli muadilinden 14 kat daha küçük yapıyor. Üçlü Bonsai 27B, 15 kıyaslama testinde ortalama 80,49 puan alarak tam model performansının %94,6'sını koruyor. Apache 2.0 lisansı altında yayımlanan PrismML, bu teknolojiyi daha da geliştirmek için Apple ile görüşmelerde bulunuyor.
PrismML, iPhone için İlk 27 Milyar Parametreli AI Modeli Bonsai 27B'yi Tanıttı
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
