xAI d'Elon Musk fait face à des défis importants concernant l'utilisation de ses GPU, qui fonctionnent actuellement à seulement 11 % d'efficacité. L'entreprise gère environ 550 000 GPU NVIDIA, incluant les modèles H100 et H200, répartis dans ses centres de données de Memphis et Colossus. Malgré cette échelle impressionnante, la faible utilisation met en lumière des inefficacités dans la pile logicielle d'IA de xAI. Cette sous-utilisation est attribuée à des problèmes de coordination entre le grand nombre de GPU, entraînant des temps d'inactivité et des goulots d'étranglement dans la transmission des données. Ce problème n'est pas unique à xAI, l'industrie de l'IA rencontrant des difficultés à optimiser les infrastructures à grande échelle. Alors que des entreprises comme Meta et Google atteignent des taux d'utilisation supérieurs à 40 %, xAI vise à améliorer son efficacité à 50 % en renforçant son infrastructure et sa pile logicielle. Elon Musk explore également le développement interne de puces et l'exploitation de la technologie d'Intel pour relever ces défis.