По словам генерального директора Брайана Армстронга, Coinbase успешно сократила свои расходы на ИИ почти на 50% за счет внедрения моделей с открытыми весами и оптимизации своей инфраструктуры. Компания перешла на использование моделей, таких как GLM 5.2 от Zhipu и Kimi 2.7 от Moonshot AI, в качестве стандартных опций, что позволяет инженерам выбирать наиболее подходящую модель для конкретных задач. Этот стратегический шаг позволил 91% сотрудников избежать достижения лимитов использования, тем самым снизив затраты без ограничения использования ИИ. Кроме того, Coinbase улучшила свои стратегии маршрутизации и кэширования. Предварительная обработка запросов и маршрутизация задач к наиболее подходящим моделям на основе показателей попадания в кэш и цен позволили компании увеличить коэффициент попадания в кэш с 5% до 60%. Армстронг подчеркнул, что цель состоит в создании устойчивой инфраструктуры, поддерживающей экспоненциальный рост, с акцентом на сокращение потерь токенов и повышение прозрачности использования для обеспечения высокоэффективных результатов от инвестиций в ИИ.