Google Research, büyük dil modellerinin (LLM'ler) belirsizliği daha etkili bir şekilde ifade etmesi gerektiğini savunan bir makale yayımladı. EMNLP 2024'te sunulan makale, mevcut LLM'lerin yanıtlarında kendilerine güvenmediklerinde bunu belirtmekte sık sık başarısız olduğunu vurguluyor. Araştırmacılar Gal Yona, Roee Aharoni ve Mor Geva, bir modelin ifade ettiği güveni içsel kesinliğiyle uyumlu hale getirmek için "doğru yanıt belirsizliği" adlı bir çerçeve öneriyorlar. Çalışma, mevcut hizalama tekniklerinin akıcılık ve faydalılığı önceliklendirdiğini ve bu nedenle modellerin belirsiz olduklarında bile kendinden emin yanıtlar vermesini teşvik ettiğini ortaya koyuyor. Bu uyumsuzluk, özellikle tahminlerin güven düzeyinin karar verme süreçlerini önemli ölçüde etkileyebileceği yapay zeka destekli ticaret gibi alanlarda yanıltıcı çıktılara yol açabilir. Araştırma, yapay zeka araçlarının güven düzeylerini doğru şekilde iletmesini sağlamak için yeni hizalama yöntemlerine ihtiyaç olduğunu vurguluyor; bu, finansal analiz için yapay zekaya güvenen kullanıcılar için kritik öneme sahip.