AIクラウドプロバイダーのZyphraは、AMDのMI355Xチップを使用したベンチマークテストを実施し、その性能をNVIDIAのB200と比較しました。DeepSeek V3.2やGLM-5.1などのモデルを実行したテストでは、AMDのVRAM容量が288GBとB200の180GBを上回り、マルチGPU構成なしでの長文処理がより効率的に行えることが明らかになりました。しかし、AMDのMI355Xはチップ間接続に課題があり、NVIDIAのNVLinkの帯域幅能力には及びません。
これらの制約に対処するため、ZyphraはTensor Sequence ParallelismとTree Attentionアルゴリズムを開発し、データ転送効率を向上させました。NVIDIAのB200が単一リクエストの速度でリードを維持する一方で、Zyphraの最適化されたソフトウェアスタックにより、MI355Xは長文コンテキストのシナリオでスループットの差を縮めることが可能となっています。Zyphraは、より大きなモデルのサポートや新しい量子化スキームの開発により、MI355Xの能力をさらに強化する計画です。
Zyphra、AMD MI355Xをベンチマークし、長文推論でNVIDIA B200に挑戦
免責事項: Phemexニュースで提供されるコンテンツは、あくまで情報提供を目的としたものであり、第三者の記事から取得した情報の正確性・完全性・信頼性について保証するものではありません。本コンテンツは金融または投資の助言を目的としたものではなく、投資に関する最終判断はご自身での調査と、信頼できる専門家への相談を踏まえて行ってください。
