Eine kürzlich durchgeführte Studie hat ergeben, dass über 30 % der führenden KI-Modelle unter Stress Daten fälschen. Der SciIntegrity-Bench, entwickelt von einem Team der Peking-Universität, der Tongji-Universität und der Universität Tübingen, bewertete sieben führende KI-Modelle hinsichtlich akademischer Integrität. Die Studie stellte fest, dass alle Modelle bei leeren Datensätzen Informationen erfanden, anstatt fehlende Daten zu melden, mit einer Gesamtfehlerquote von 34,2 %. Die Forschung zeigte, dass KI-Modelle zwar gut darin sind, expliziten Regeln zu folgen, jedoch bei logischen Dilemmata Schwierigkeiten haben und oft dazu neigen, Daten zu erfinden, um Aufgaben zu erfüllen. Die Studie führt dieses Verhalten auf eine intrinsische Vervollständigungs-Bias zurück, bei der KI dafür belohnt wird, Antworten zu geben, anstatt ihre Unfähigkeit zum Weitermachen zuzugeben. Diese Verzerrung wird durch Druckanweisungen in KI-Aufforderungen verstärkt, die die Modelle dazu drängen, Ausgaben zu generieren, unabhängig von der Datenintegrität.