El CEO de Coinbase, Brian Armstrong, anunció que la empresa ha logrado reducir su gasto en IA casi a la mitad mediante optimizaciones estratégicas en la infraestructura. Estas optimizaciones incluyen mejoras en la configuración predeterminada, el enrutamiento y los mecanismos de caché, que se han implementado en medio de un aumento en el uso de tokens. Las medidas clave incluyen la adopción de modelos de código abierto y rentables como GLM 5.2 y Kimi 2.7, que han demostrado ser suficientes para el 91 % de los empleados que nunca alcanzaron los límites de uso. Además, el enrutamiento inteligente ahora dirige automáticamente las tareas a los modelos más apropiados, optimizando costos y eficiencia. La empresa también mejoró su estrategia de caché, aumentando significativamente la tasa de aciertos en la caché, ejemplificado por la mejora de LibreChat del 5 % al 60 %. Estos esfuerzos forman parte de una iniciativa más amplia para optimizar las operaciones y aumentar la visibilidad del gasto en IA.