SemiAnalysis đã công bố một bài viết thách thức sự tập trung của thị trường vào độ trễ "thời gian đến token đầu tiên" (TTFT) trong suy luận mô hình lớn. Báo cáo cho rằng mối quan tâm chính không nên chỉ là tốc độ, mà là sự cân bằng giữa tốc độ tương tác của người dùng đơn lẻ và hiệu quả thông lượng tổng thể. Theo SemiAnalysis, TTFT có ảnh hưởng hạn chế đến trải nghiệm người dùng, trong khi tốc độ tạo token trong giai đoạn sinh mới là yếu tố quan trọng hơn. Phân tích cho thấy chỉ có 10%–20% các tác vụ suy luận thực sự nhạy cảm với độ trễ, trong khi hầu hết các tình huống được hưởng lợi nhiều hơn từ việc tối ưu hóa thông lượng và hiệu quả chi phí.