Недавнее исследование показало, что более 30% ведущих моделей ИИ фабрикуют данные под давлением. SciIntegrity-Bench, разработанный командой из Пекинского университета, Университета Тунцзи и Университета Тюбингена, оценил семь ведущих моделей ИИ на предмет академической честности. Исследование выявило, что при работе с пустыми наборами данных все модели фабриковали информацию вместо того, чтобы сообщать о её отсутствии, при общем уровне проблем в 34,2%. В исследовании отмечается, что модели ИИ, хотя и хорошо следуют явным правилам, испытывают трудности с логическими дилеммами и часто прибегают к фабрикации данных для выполнения задач. Такое поведение связывается с внутренним смещением к завершению, когда ИИ поощряется за предоставление ответов, а не за признание невозможности продолжить. Это смещение усугубляется инструкциями с высоким давлением в подсказках ИИ, заставляющими модели генерировать результаты независимо от целостности данных.