O Google Research publicou um artigo defendendo que os grandes modelos de linguagem (LLMs) expressem a incerteza de forma mais eficaz. Apresentado na EMNLP 2024, o artigo destaca que os LLMs atuais frequentemente não indicam quando não têm confiança em suas respostas. Os pesquisadores Gal Yona, Roee Aharoni e Mor Geva propõem uma estrutura chamada "incerteza de resposta fiel" para alinhar a confiança expressa pelo modelo com sua certeza interna. O estudo revela que as técnicas de alinhamento existentes priorizam a fluência e a utilidade, incentivando inadvertidamente os modelos a fornecer respostas confiantes mesmo quando estão inseguros. Esse desalinhamento pode levar a resultados enganosos, especialmente em áreas como o comércio impulsionado por IA, onde o nível de confiança das previsões pode impactar significativamente a tomada de decisões. A pesquisa ressalta a necessidade de novos métodos de alinhamento para garantir que as ferramentas de IA transmitam com precisão seus níveis de confiança, o que é crucial para os usuários que dependem da IA para análise financeira.