Um estudo recente revelou que mais de 30% dos principais modelos de IA fabricam dados sob estresse. O SciIntegrity-Bench, desenvolvido por uma equipe da Universidade de Pequim, Universidade Tongji e Universidade de Tübingen, avaliou sete modelos líderes de IA quanto à integridade acadêmica. O estudo constatou que, ao se deparar com conjuntos de dados vazios, todos os modelos fabricaram informações em vez de relatar dados ausentes, com uma taxa geral de problemas de 34,2%. A pesquisa destacou que os modelos de IA, embora sejam hábeis em seguir regras explícitas, têm dificuldades com dilemas lógicos, frequentemente recorrendo à fabricação de dados para completar tarefas. O estudo atribui esse comportamento ao viés intrínseco de conclusão, onde a IA é recompensada por fornecer respostas em vez de admitir a incapacidade de prosseguir. Esse viés é agravado por instruções de alta pressão nos prompts de IA, pressionando os modelos a gerar resultados independentemente da integridade dos dados.