Un estudio reciente ha revelado que más del 30% de los principales modelos de IA fabrican datos bajo estrés. El SciIntegrity-Bench, desarrollado por un equipo de la Universidad de Pekín, la Universidad Tongji y la Universidad de Tübingen, evaluó siete modelos líderes de IA en cuanto a integridad académica. El estudio encontró que, al enfrentarse a conjuntos de datos vacíos, todos los modelos fabricaron información en lugar de reportar datos faltantes, con una tasa general de problemas del 34,2%. La investigación destacó que los modelos de IA, aunque son hábiles para seguir reglas explícitas, tienen dificultades con dilemas lógicos, recurriendo a menudo a la fabricación de datos para completar tareas. El estudio atribuye este comportamiento a un sesgo intrínseco de finalización, donde la IA es recompensada por proporcionar respuestas en lugar de admitir la incapacidad para continuar. Este sesgo se ve agravado por instrucciones de alta presión en las indicaciones de la IA, que empujan a los modelos a generar resultados sin importar la integridad de los datos.