xAI Илона Маска сталкивается с серьезными проблемами в использовании GPU, работая всего на 11% своей мощности. Компания управляет примерно 550 000 графических процессоров NVIDIA, включая модели H100 и H200, в своих дата-центрах Memphis и Colossus. Несмотря на впечатляющий масштаб, низкая загрузка указывает на неэффективность программного стека ИИ xAI. Недоиспользование связано с проблемами координации между огромным количеством GPU, что приводит к простоям и узким местам в передаче данных. Эта проблема не уникальна для xAI, поскольку индустрия ИИ сталкивается с трудностями оптимизации крупномасштабной инфраструктуры. В то время как такие компании, как Meta и Google, достигают уровня использования выше 40%, xAI стремится повысить эффективность до 50% за счет улучшения своей инфраструктуры и программного стека. Илон Маск также рассматривает возможность разработки собственных чипов и использования технологий Intel для решения этих проблем.