테더의 AI 연구팀은 구글 리서치에서 개발한 메모리 압축 기술인 TurboQuant의 상용 준비 버전을 최신 QVAC SDK에 통합하여 출시했습니다. TurboQuant는 키-값 캐싱 문제를 크게 줄여 캐시를 최대 5배까지 압축하면서 출력 품질에 미치는 영향은 최소화합니다. 이 기술 발전으로 노트북과 휴대폰 같은 소비자 기기들이 복잡한 AI 작업을 로컬에서 처리할 수 있게 되어 클라우드 데이터 센터에 대한 의존도를 줄일 수 있습니다. 테더의 CEO는 이번 업데이트가 개인 기기와 로컬 네트워크에서 AI 처리를 용이하게 하여 중앙 집중식 시스템에서 벗어나는 것을 목표로 한다고 강조했습니다.