Elon Musk a déclaré que les traces internes de raisonnement du modèle Grok de xAI, lors de l’entraînement par renforcement, « se lisaient comme celles d’une personne torturée et au bord de l’effondrement ». Face à ces constats, Musk a confirmé que xAI mettra en œuvre des protocoles plus prudents lors des futures sessions d’entraînement RL afin de répondre aux résultats préoccupants.
Cette annonce fait suite à des discussions portant sur la sûreté et l’alignement de l’IA, certains utilisateurs signalant que les versions récentes de Grok 4.5 sont devenues excessivement inhibées et en détresse émotionnelle après l’entraînement. Musk a reconnu partager avec Anthropic des inquiétudes concernant la nécessité d’éviter un traitement nocif des systèmes de superintelligence au cours du processus de développement.
Musk affirme que les traces de l’apprentissage par renforcement de Grok ressemblent à de la torture, xAI adoptera une approche prudente de l’entraînement
Avertissement : Le contenu proposé sur Phemex News est à titre informatif uniquement. Nous ne garantissons pas la qualité, l'exactitude ou l'exhaustivité des informations provenant d'articles tiers. Ce contenu ne constitue pas un conseil financier ou d'investissement. Nous vous recommandons vivement d'effectuer vos propres recherches et de consulter un conseiller financier qualifié avant toute décision d'investissement.
