A NVIDIA AI expandiu seu framework Megatron Core para incluir suporte a otimizadores avançados como Muon, juntamente com otimizadores de pesquisa como MOP e REKLS. Esse desenvolvimento visa melhorar a eficiência do treinamento de modelos em grande escala, incluindo aqueles na escala do Kimi K2 e Qwen3 30B. O anúncio destaca a necessidade de técnicas além dos métodos padrão de paralelismo de dados para alcançar um treinamento eficiente dos modelos. No entanto, métricas específicas de desempenho ou detalhes de implementação não foram fornecidos.