A Epoch AI prevê uma mudança significativa na indústria de IA até 2030, com a capacidade de computação para inferência prevista para superar a capacidade de computação para treinamento de modelos. A organização sem fins lucrativos projeta que quase metade de toda a computação para inferência será transferida para Circuitos Integrados de Aplicação Específica (ASICs), afastando-se das GPUs de uso geral atualmente predominantes. Essa mudança destaca um foco crescente na economia de implantação em vez do desenvolvimento. A Epoch AI estima que, até 2030, a capacidade total de energia para IA nos EUA poderá ultrapassar 50 gigawatts, com a capacidade global superando 100 gigawatts. A organização observa que, embora a computação para treinamento de modelos avançados de IA esteja crescendo rapidamente, a computação para inferência dominará, impulsionada pela eficiência dos ASICs, como as Unidades de Processamento Tensor da Google e os chips Inferentia da Amazon. Essa tendência sugere uma expansão substancial em data centers e infraestrutura para suportar a demanda crescente de energia.