Google Research đã công bố một bài báo kêu gọi các mô hình ngôn ngữ lớn (LLMs) thể hiện sự không chắc chắn một cách hiệu quả hơn. Được trình bày tại EMNLP 2024, bài báo nhấn mạnh rằng các LLM hiện tại thường không chỉ ra khi chúng thiếu tự tin trong các câu trả lời của mình. Các nhà nghiên cứu Gal Yona, Roee Aharoni và Mor Geva đề xuất một khung gọi là "sự không chắc chắn trong phản hồi trung thực" nhằm điều chỉnh sự tự tin được thể hiện của mô hình với sự chắc chắn nội tại của nó. Nghiên cứu cho thấy các kỹ thuật điều chỉnh hiện tại ưu tiên sự trôi chảy và hữu ích, vô tình khuyến khích các mô hình đưa ra câu trả lời tự tin ngay cả khi không chắc chắn. Sự không phù hợp này có thể dẫn đến các kết quả gây hiểu lầm, đặc biệt trong các lĩnh vực như giao dịch dựa trên AI, nơi mức độ tự tin của các dự đoán có thể ảnh hưởng đáng kể đến việc ra quyết định. Nghiên cứu nhấn mạnh sự cần thiết của các phương pháp điều chỉnh mới để đảm bảo các công cụ AI truyền đạt chính xác mức độ tự tin của chúng, điều này rất quan trọng đối với người dùng dựa vào AI để phân tích tài chính.