Google Research hat ein Papier veröffentlicht, das dafür plädiert, dass große Sprachmodelle (LLMs) Unsicherheit effektiver ausdrücken sollten. Das auf der EMNLP 2024 vorgestellte Papier hebt hervor, dass aktuelle LLMs oft nicht anzeigen, wenn sie bei ihren Antworten kein Vertrauen haben. Die Forscher Gal Yona, Roee Aharoni und Mor Geva schlagen einen Rahmen namens "faithful response uncertainty" vor, um das vom Modell geäußerte Vertrauen mit seiner internen Sicherheit in Einklang zu bringen. Die Studie zeigt, dass bestehende Ausrichtungstechniken die Flüssigkeit und Hilfsbereitschaft priorisieren und dadurch unbeabsichtigt Modelle dazu ermutigen, selbst bei Unsicherheit selbstbewusste Antworten zu geben. Diese Fehlanpassung kann zu irreführenden Ergebnissen führen, insbesondere in Bereichen wie dem KI-gesteuerten Handel, wo das Vertrauensniveau der Vorhersagen die Entscheidungsfindung erheblich beeinflussen kann. Die Forschung unterstreicht die Notwendigkeit neuer Ausrichtungsmethoden, um sicherzustellen, dass KI-Tools ihr Vertrauensniveau genau vermitteln, was für Nutzer, die sich auf KI für Finanzanalysen verlassen, von entscheidender Bedeutung ist.