Google Research ha publicado un artículo que aboga por que los grandes modelos de lenguaje (LLMs) expresen la incertidumbre de manera más efectiva. Presentado en EMNLP 2024, el artículo destaca que los LLMs actuales a menudo no indican cuando carecen de confianza en sus respuestas. Los investigadores Gal Yona, Roee Aharoni y Mor Geva proponen un marco llamado "incertidumbre de respuesta fiel" para alinear la confianza expresada por un modelo con su certeza interna. El estudio revela que las técnicas de alineación existentes priorizan la fluidez y la utilidad, lo que inadvertidamente fomenta que los modelos proporcionen respuestas confiadas incluso cuando están inseguros. Esta desalineación puede conducir a resultados engañosos, especialmente en campos como el comercio impulsado por IA, donde el nivel de confianza de las predicciones puede impactar significativamente la toma de decisiones. La investigación subraya la necesidad de nuevos métodos de alineación para garantizar que las herramientas de IA transmitan con precisión sus niveles de confianza, lo cual es crucial para los usuarios que dependen de la IA para el análisis financiero.