Das PyTorch-Team hat die Leistung von LayerNorm und RMSNorm auf NVIDIA H100- und B200-GPUs optimiert. Am 8. April angekündigt, zielen diese Verbesserungen darauf ab, eine nahezu erstklassige Leistung auf Kernel-Ebene zu erreichen, indem torch.compile für automatische Fusion genutzt wird. Diese Entwicklung soll die Recheneffizienz für Nutzer, die diese GPUs verwenden, verbessern.