NVIDIA AIは、Megatron Coreフレームワークを拡張し、Muonのような高度なオプティマイザーに加え、MOPやREKLSといった研究用オプティマイザーのサポートを含めました。この開発は、Kimi K2やQwen3 30Bの規模に及ぶ大規模モデルのトレーニング効率を向上させることを目的としています。発表では、効率的なモデルトレーニングを実現するために、標準的なデータ並列手法を超えた技術の必要性が強調されています。ただし、具体的な性能指標や実装の詳細は提供されていません。