Elon Musk'un xAI şirketi, GPU kullanımında önemli zorluklarla karşı karşıya ve şu anda sadece %11 verimlilikle çalışıyor. Şirket, Memphis ve Colossus veri merkezlerinde H100 ve H200 modelleri dahil olmak üzere yaklaşık 550.000 NVIDIA GPU'yu yönetiyor. Etkileyici ölçeğe rağmen, düşük kullanım oranı xAI'nın yapay zeka yazılım yığınına dair verimsizlikleri ortaya koyuyor. Düşük kullanım, çok sayıda GPU arasındaki koordinasyon sorunlarına bağlanıyor; bu da boşta kalma sürelerine ve veri iletiminde darboğazlara yol açıyor. Bu sorun sadece xAI'ya özgü değil; yapay zeka sektörü büyük ölçekli altyapıyı optimize etmekte zorlanıyor. Meta ve Google gibi şirketler %40'ın üzerinde kullanım oranları elde ederken, xAI altyapısını ve yazılım yığını geliştirmeyi hedefleyerek verimliliğini %50'ye çıkarmayı amaçlıyor. Elon Musk ayrıca bu zorlukları aşmak için şirket içi çip geliştirme ve Intel teknolojisinden yararlanmayı da araştırıyor.