Google Research a publié un article plaidant pour que les grands modèles de langage (LLM) expriment plus efficacement leur incertitude. Présenté à EMNLP 2024, l'article souligne que les LLM actuels ne parviennent souvent pas à indiquer quand ils manquent de confiance dans leurs réponses. Les chercheurs Gal Yona, Roee Aharoni et Mor Geva proposent un cadre appelé « incertitude de réponse fidèle » pour aligner la confiance exprimée par un modèle avec sa certitude interne. L'étude révèle que les techniques d'alignement existantes privilégient la fluidité et l'utilité, encourageant involontairement les modèles à fournir des réponses confiantes même en cas d'incertitude. Ce désalignement peut conduire à des résultats trompeurs, notamment dans des domaines comme le trading piloté par l'IA, où le niveau de confiance des prédictions peut avoir un impact significatif sur la prise de décision. La recherche souligne la nécessité de nouvelles méthodes d'alignement pour garantir que les outils d'IA transmettent avec précision leurs niveaux de confiance, ce qui est crucial pour les utilisateurs qui s'appuient sur l'IA pour l'analyse financière.