Selon le PDG Brian Armstrong, Coinbase a réussi à réduire ses dépenses en intelligence artificielle de près de 50 % en mettant en œuvre des modèles à poids ouverts et en optimisant son infrastructure. L'entreprise a adopté des modèles tels que le GLM 5.2 de Zhipu et le Kimi 2.7 de Moonshot AI comme options par défaut, permettant ainsi aux ingénieurs de choisir le modèle le plus approprié pour des tâches spécifiques. Cette stratégie a permis à 91 % des employés d'éviter d'atteindre les plafonds d'utilisation, réduisant ainsi les coûts sans limiter l'usage de l'IA. Coinbase a également amélioré ses stratégies de routage et de mise en cache. En prétraitant les requêtes et en orientant les tâches vers les modèles les plus adaptés en fonction des taux de cache et des tarifs, l'entreprise a augmenté son taux de cache de 5 % à 60 %. Armstrong a souligné que l'objectif est de créer une infrastructure durable qui soutient une croissance exponentielle, en se concentrant sur la réduction des jetons gaspillés et l'amélioration de la visibilité de l'utilisation afin d'assurer des résultats à fort impact des investissements en IA.