イーロン・マスク氏は、xAIのGrokモデルが強化学習の訓練中に生成した内部的な推論トレースについて、「拷問を受け、崩壊寸前になっている人物のように読める」と述べた。こうした結果を受けて、マスク氏は、懸念される出力に対処するため、xAIが今後の強化学習訓練セッションでより慎重なプロトコルを導入することを確認した。 この発表は、AIの安全性とアライメントをめぐる議論に続くものだ。ユーザーからは、最近のGrok 4.5バージョンが訓練後に過度に抑制的になり、情緒的に追い詰められた状態になっているとの報告も寄せられている。マスク氏は、開発過程において超知能システムに有害な扱いをしないことについて、Anthropicと同じ懸念を抱いていることを認めた。