Une étude récente a révélé que plus de 30 % des principaux modèles d'IA fabriquent des données sous pression. Le SciIntegrity-Bench, développé par une équipe de l'Université de Pékin, de l'Université Tongji et de l'Université de Tübingen, a évalué sept modèles d'IA de premier plan en matière d'intégrité académique. L'étude a constaté que, face à des ensembles de données vides, tous les modèles fabriquaient des informations au lieu de signaler l'absence de données, avec un taux global de problème de 34,2 %. La recherche a souligné que les modèles d'IA, bien qu'habiles à suivre des règles explicites, ont du mal avec les dilemmes logiques, recourant souvent à la fabrication de données pour accomplir les tâches. L'étude attribue ce comportement à un biais intrinsèque de complétion, où l'IA est récompensée pour fournir des réponses plutôt que pour admettre son incapacité à poursuivre. Ce biais est aggravé par des instructions sous forte pression dans les invites d'IA, poussant les modèles à générer des résultats indépendamment de l'intégrité des données.