Nvidia Vera Rubin: O Custo Recorde por Rack que Impacta a Infraestrutura de IA

A nova realidade dos custos em infraestrutura de IA

A corrida pela liderança em inteligência artificial atingiu um novo patamar de custo. De acordo com estimativas da Bernstein, o próximo sistema de IA da Nvidia, o Vera Rubin NVL72, terá um preço recorde de US$ 9,1 milhões por rack. Para desenvolvedores e empresas que dependem de escala em nuvem, esse valor não é apenas uma curiosidade de hardware, mas um sinal claro de como o custo da infraestrutura de IA deve se comportar nos próximos anos.

Por que o preço está subindo tanto?

Ao contrário do que se possa imaginar, o problema não está apenas no chip. A principal causa do encarecimento é a memória de alta largura de banda. A projeção é que os preços desses componentes mais do que tripliquem até que o Vera Rubin chegue ao mercado em escala, entre 2026 e 2027.

Segundo os dados, os custos de memória e armazenamento representarão cerca de US$ 3,2 milhões por rack, ou seja, mais de um terço do valor total do sistema. Além da memória, outros fatores como redes, sistemas de resfriamento e distribuição de energia estão pressionando o orçamento de quem constrói data centers de grande porte.

O impacto nos data centers e na nuvem

A construção de um data center de 1 gigawatt equipado com a tecnologia Vera Rubin está estimada em US$ 47 bilhões, um salto considerável em relação aos US$ 40,5 bilhões necessários para a geração anterior. Para quem opera infraestrutura de nuvem, isso significa que a pressão por repasse de custos é iminente.

A análise da Bernstein indica que a Nvidia, devido à sua posição dominante no mercado de GPUs para IA, tem poder de precificação para repassar esses aumentos diretamente aos clientes. Isso coloca Big Techs como Google, Microsoft, Meta e Amazon — e, por tabela, todos os desenvolvedores que utilizam suas plataformas — diante de um cenário de custos operacionais mais elevados.

Estratégias de mercado e a parceria com a SK Hynix

Para mitigar a escassez, a Nvidia oficializou uma parceria de longo prazo com a SK Hynix, principal fornecedora de memória de alta largura de banda do mundo. O movimento visa garantir acesso prioritário a componentes críticos. No entanto, o CEO Jensen Huang já alertou que a escassez de memória deve persistir por alguns anos.

O que muda na rotina de quem desenvolve?

• Previsibilidade de custos: Treinar e rodar modelos avançados de IA continuará exigindo investimentos maiores.
• Eficiência é a chave: Com o hardware mais caro, otimizar o consumo de recursos computacionais deixa de ser um diferencial e passa a ser uma necessidade de sobrevivência financeira.
• Gestão de recursos: Para times que precisam equilibrar o orçamento de tecnologia, a organização financeira torna-se tão crítica quanto a performance do código.

Em um cenário onde a infraestrutura se torna cada vez mais cara, ter visibilidade sobre cada centavo investido no operacional é essencial. Para times que ainda fazem a gestão financeira em planilhas desconexas, plataformas como Orqueza centralizam o controle de custos e a gestão de serviços, permitindo uma visão clara dos gastos enquanto o mercado de tecnologia se ajusta a essa nova escala de preços.

Fonte: exame.com