테더의 AI 연구 그룹은 AI 메모리 사용량을 크게 줄이는 것을 목표로 하는 구글 리서치 알고리즘인 TurboQuant의 오픈 소스 버전을 공개했습니다. 이 기술은 현재 테더의 QVAC 패브릭 AI 엔진에 통합되어 있으며, 실용적인 응용을 위한 포괄적인 양자화 파이프라인과 배포 프로파일을 포함하고 있습니다. TurboQuant는 AI 시스템에서 높은 메모리 소비 문제를 해결하여, 성능을 유지하면서 메모리 요구량을 최대 5배까지 줄여 노트북이나 휴대폰과 같은 로컬 장치에서 효율적으로 실행할 수 있게 합니다. 테더의 CEO 파올로 아르도이노는 이 개발의 중요성을 강조하며, TurboQuant가 AI 도구들이 방대한 데이터를 로컬에서 처리할 수 있게 하여 문맥 인식을 향상시키고 클라우드 인프라에 대한 의존도를 줄인다고 밝혔습니다. 이 진보는 AI 작업 부하의 분산화를 목표로 하는 테더의 비전을 지원하며, 개인 장치와 로컬 네트워크에서 더 긴 문맥 창과 향상된 성능을 가능하게 합니다.