코인베이스는 CEO 브라이언 암스트롱에 따르면 오픈 웨이트 모델을 도입하고 인프라를 최적화하여 AI 지출을 거의 50%까지 성공적으로 줄였습니다. 회사는 기본 옵션으로 Zhipu의 GLM 5.2와 Moonshot AI의 Kimi 2.7과 같은 모델을 사용하도록 전환하여 엔지니어들이 특정 작업에 가장 적합한 모델을 선택할 수 있게 했습니다. 이러한 전략적 조치는 직원의 91%가 사용 한도에 도달하지 않도록 하여 AI 사용을 제한하지 않으면서 비용을 절감할 수 있게 했습니다. 코인베이스는 또한 라우팅 및 캐싱 전략을 개선했습니다. 프롬프트를 사전 처리하고 캐시 적중률과 가격을 기반으로 작업을 가장 적합한 모델로 라우팅함으로써 회사는 캐시 적중률을 5%에서 60%로 높였습니다. 암스트롱은 목표가 낭비되는 토큰을 줄이고 사용 가시성을 향상시켜 AI 투자에서 높은 영향력을 발휘하는 결과를 보장하는 지속 가능한 인프라를 구축하는 것이라고 강조했습니다.