xAI de Elon Musk enfrenta desafíos significativos con la utilización de sus GPU, operando actualmente con solo un 11% de eficiencia. La empresa gestiona aproximadamente 550,000 GPU de NVIDIA, incluidos los modelos H100 y H200, en sus centros de datos de Memphis y Colossus. A pesar de la impresionante escala, la baja utilización resalta ineficiencias en la pila de software de IA de xAI. La subutilización se atribuye a problemas de coordinación entre la gran cantidad de GPU, lo que provoca tiempos de inactividad y cuellos de botella en la transmisión de datos. Este problema no es exclusivo de xAI, ya que la industria de la IA lucha por optimizar infraestructuras a gran escala. Mientras que empresas como Meta y Google alcanzan tasas de utilización superiores al 40%, xAI apunta a mejorar su eficiencia al 50% mediante la mejora de su infraestructura y pila de software. Elon Musk también está explorando el desarrollo interno de chips y aprovechando la tecnología de Intel para abordar estos desafíos.