Coinbase hat laut CEO Brian Armstrong seine Ausgaben für KI durch die Implementierung von Open-Weight-Modellen und die Optimierung seiner Infrastruktur um fast 50 % erfolgreich reduziert. Das Unternehmen hat auf Modelle wie Zhipus GLM 5.2 und Moonshot AIs Kimi 2.7 als Standardoptionen umgestellt, wodurch Ingenieure das jeweils am besten geeignete Modell für spezifische Aufgaben auswählen können. Dieser strategische Schritt hat es 91 % der Mitarbeiter ermöglicht, Nutzungslimits zu vermeiden, wodurch die Kosten gesenkt wurden, ohne die KI-Nutzung einzuschränken. Coinbase hat auch seine Routing- und Caching-Strategien verbessert. Durch die Vorverarbeitung von Eingaben und die Weiterleitung von Aufgaben an die am besten geeigneten Modelle basierend auf Cache-Trefferquoten und Preisen hat das Unternehmen seine Cache-Trefferquote von 5 % auf 60 % erhöht. Armstrong betonte, dass das Ziel darin besteht, eine nachhaltige Infrastruktur zu schaffen, die exponentielles Wachstum unterstützt, wobei der Fokus darauf liegt, verschwendete Tokens zu reduzieren und die Nutzungstransparenz zu verbessern, um sicherzustellen, dass KI-Investitionen hohe Wirkung erzielen.