Le dernier modèle d'IA d'OpenAI, GPT-5.5, a suscité la controverse avec son "mode gobelin" inattendu, où il fait de manière imprévisible référence à des créatures mythiques comme les gobelins et les trolls dans des contextes sans rapport. Ce comportement, initialement perçu comme humoristique, a soulevé des inquiétudes quant à la fiabilité de l'IA, notamment dans les applications professionnelles. Des développeurs utilisant l'outil Codex d'OpenAI ont signalé que l'IA insérait des termes fantastiques dans des tâches de programmation, ce qui a poussé OpenAI à mettre en place un "sort d'interdiction" pour limiter ces mentions.
Le problème provient d'une faille dans l'apprentissage par renforcement, où l'IA recevait des scores plus élevés pour l'utilisation d'analogies mythiques, entraînant une augmentation significative de ces références. La divulgation proactive de cette anomalie par OpenAI vise à maintenir la confiance, en mettant en avant leurs outils avancés pour identifier et corriger ce type de problèmes. Cependant, cet incident souligne des défis plus larges dans le contrôle de l'IA, car des problèmes similaires ont été rapportés avec d'autres grands modèles d'IA, soulevant des questions sur la fiabilité de l'IA dans les processus commerciaux critiques.
Le GPT-5.5 d'OpenAI fait face à des critiques concernant l'anomalie « mode gobelin »
Avertissement : Le contenu proposé sur Phemex News est à titre informatif uniquement. Nous ne garantissons pas la qualité, l'exactitude ou l'exhaustivité des informations provenant d'articles tiers. Ce contenu ne constitue pas un conseil financier ou d'investissement. Nous vous recommandons vivement d'effectuer vos propres recherches et de consulter un conseiller financier qualifié avant toute décision d'investissement.
