Der KI-Cloud-Anbieter Zyphra hat einen Benchmark-Test mit dem MI355X-Chip von AMD durchgeführt und dessen Leistung mit der des NVIDIA B200 verglichen. Die Tests, bei denen Modelle wie DeepSeek V3.2 und GLM-5.1 zum Einsatz kamen, hoben AMDs Vorteil bei der VRAM-Kapazität hervor, mit 288 GB im Vergleich zu 180 GB beim B200, was eine effizientere Verarbeitung langer Texte ohne Multi-GPU-Setups ermöglicht. Allerdings hat der MI355X von AMD Herausforderungen bei der Inter-Chip-Konnektivität und liegt hinter den NVLink-Bandbreitenfähigkeiten von NVIDIA zurück. Um diese Einschränkungen zu beheben, entwickelte Zyphra die Algorithmen Tensor Sequence Parallelism und Tree Attention, die die Datenübertragungseffizienz verbessern. Während der B200 von NVIDIA bei der Geschwindigkeit einzelner Anfragen weiterhin führend ist, ermöglicht der optimierte Software-Stack von Zyphra dem MI355X, die Durchsatzlücke bei Szenarien mit langem Kontext zu schließen. Zyphra plant, die Fähigkeiten des MI355X weiter zu verbessern, indem größere Modelle unterstützt und neue Quantisierungsschemata entwickelt werden.