PrismMLは、消費者向けスマートフォンで動作するよう設計された初の270億パラメータを持つAIモデル「Bonsai 27B」を発表しました。このモデルは3.9GBに圧縮され、iPhone 17 Pro Maxで1秒あたり11トークンの速度で動作します。3値版は5.9GBに圧縮され、M5 Proラップトップで1秒あたり26トークンを達成しています。この圧縮技術はCaltechの技術に基づいており、モデルの重みを2値化することで、フル精度モデルの14分の1のサイズに削減しています。3値のBonsai 27Bは、15のベンチマークで平均80.49のスコアを記録し、フルモデルの性能の94.6％を維持しています。Apache 2.0ライセンスの下でリリースされており、PrismMLはこの技術のさらなる開発に向けてAppleと協議中です。