Google Researchは、大規模言語モデル（LLM）が不確実性をより効果的に表現することを提唱する論文を発表しました。EMNLP 2024で発表されたこの論文は、現在のLLMが自信を欠く場合にそのことを示すことがしばしばできていないことを指摘しています。研究者のGal Yona、Roee Aharoni、Mor Gevaは、モデルの表現する自信と内部の確信を一致させる「忠実な応答の不確実性」というフレームワークを提案しています。 この研究は、既存の整合技術が流暢さと有用性を優先するあまり、モデルが不確かであっても自信を持った回答を提供することを無意識に促していることを明らかにしました。この不整合は、特にAI駆動の取引のような分野で誤解を招く出力を生み出す可能性があり、予測の自信レベルが意思決定に大きな影響を与える場合があります。この研究は、AIツールが自信レベルを正確に伝えることを保証するための新しい整合方法の必要性を強調しており、これは金融分析にAIを利用するユーザーにとって非常に重要です。