NVIDIA AI는 Megatron Core 프레임워크를 확장하여 Muon과 같은 고급 옵티마이저뿐만 아니라 MOP 및 REKLS와 같은 연구용 옵티마이저도 지원하게 되었습니다. 이 개발은 Kimi K2 및 Qwen3 30B 규모의 대형 모델 훈련 효율성을 향상시키는 것을 목표로 합니다. 이번 발표는 효율적인 모델 훈련을 위해 표준 데이터 병렬 방식 이상의 기술이 필요함을 강조합니다. 다만, 구체적인 성능 지표나 구현 세부 사항은 제공되지 않았습니다.