Генеральный директор Coinbase Брайан Армстронг объявил, что компания успешно сократила свои расходы на ИИ почти вдвое благодаря стратегическим оптимизациям инфраструктуры. Эти оптимизации включают улучшенные настройки по умолчанию, маршрутизацию и механизмы кэширования, которые были внедрены на фоне резкого роста использования токенов. Ключевые меры включают использование открытых и экономичных моделей, таких как GLM 5.2 и Kimi 2.7, которые оказались достаточными для 91% сотрудников, никогда не достигавших лимитов использования. Кроме того, интеллектуальная маршрутизация теперь автоматически направляет задачи к наиболее подходящим моделям, оптимизируя затраты и эффективность. Компания также улучшила стратегию кэширования, значительно увеличив коэффициент попадания в кэш, что иллюстрируется улучшением LibreChat с 5% до 60%. Эти усилия являются частью более широкой инициативы по оптимизации операций и повышению прозрачности расходов на ИИ.