Giám đốc điều hành Coinbase, Brian Armstrong, thông báo rằng công ty đã thành công trong việc giảm gần một nửa chi phí cho AI thông qua các tối ưu hóa hạ tầng chiến lược. Các tối ưu hóa này bao gồm cải tiến cài đặt mặc định, định tuyến và cơ chế lưu bộ nhớ đệm, được triển khai trong bối cảnh sự gia tăng sử dụng token. Các biện pháp chính bao gồm việc áp dụng các mô hình mã nguồn mở và tiết kiệm chi phí như GLM 5.2 và Kimi 2.7, đã chứng minh đủ đáp ứng cho 91% nhân viên chưa bao giờ đạt giới hạn sử dụng. Thêm vào đó, định tuyến thông minh hiện tự động chuyển hướng các nhiệm vụ đến các mô hình phù hợp nhất, tối ưu hóa chi phí và hiệu quả. Công ty cũng đã nâng cao chiến lược lưu bộ nhớ đệm, tăng đáng kể tỷ lệ trúng bộ nhớ đệm, điển hình là sự cải thiện của LibreChat từ 5% lên 60%. Những nỗ lực này là một phần của sáng kiến rộng lớn hơn nhằm tinh giản hoạt động và tăng cường khả năng hiển thị chi tiêu cho AI.