PrismML은 소비자용 스마트폰에서 작동하도록 설계된 270억 개의 매개변수를 가진 최초의 AI 모델인 Bonsai 27B를 출시했습니다. 이 모델은 3.9GB로 압축되어 iPhone 17 Pro Max에서 초당 11개의 토큰을 처리합니다. 5.9GB로 압축된 3진 버전은 M5 Pro 노트북에서 초당 26개의 토큰을 달성합니다. Caltech 기술을 기반으로 한 이 압축은 모델 가중치를 이진 값으로 줄여, 모델 크기를 완전 정밀도 모델보다 14배 작게 만듭니다. 3진 Bonsai 27B는 15개의 벤치마크에서 평균 80.49점을 기록하며 전체 모델 성능의 94.6%를 유지합니다. Apache 2.0 라이선스 하에 공개된 PrismML은 이 기술을 더욱 발전시키기 위해 Apple과 논의 중입니다.