Coinbaseは、CEOのブライアン・アームストロングによると、オープンウェイトモデルの導入とインフラの最適化により、AI支出をほぼ50％削減することに成功しました。同社は、ZhipuのGLM 5.2やMoonshot AIのKimi 2.7のようなモデルをデフォルトオプションとして採用し、エンジニアが特定のタスクに最適なモデルを選択できるようにしました。この戦略的な動きにより、従業員の91％が使用制限に達することを回避でき、AIの使用を制限することなくコスト削減を実現しています。 また、Coinbaseはルーティングとキャッシュ戦略も改善しました。プロンプトの前処理と、キャッシュヒット率や価格に基づいて最適なモデルにタスクをルーティングすることで、キャッシュヒット率を5％から60％に引き上げました。アームストロングは、目標は指数関数的な成長を支える持続可能なインフラを構築することであり、無駄なトークンの削減と使用状況の可視化を強化して、AI投資から高い効果を得ることに重点を置いていると強調しました。