Nvidia, Vera Rubin'de maliyet artışına karşı bellek kapasitesini düşürüyor

Küresel yapay zeka altyapı pazarında hızla artan talep ve yükselen bellek maliyetleri, Nvidia’nın yeni nesil ürün mimarisinde değişikliğe gitmesine yol açıyor. Arz darboğazı öncesinde imzaladığı uzun vadeli bellek tedarik anlaşmaları sayesinde krizin etkilerini rakiplerine göre daha sınırlı yaşayan şirket, artan bileşen fiyatları karşısında amiral gemisi yapay zeka platformlarındaki bellek kapasitesini düşürmeye hazırlanıyor. GF Securities tarafından yayımlanan analiz raporuna göre Nvidia, maliyet baskısını azaltmak amacıyla Vera Rubin NVL72 raf tipi yapay zeka sistemlerinde kullanılan LPDDR5X ve CPU bellek miktarlarını önemli ölçüde azaltacak.

BELLEK KAPASİTESİ YARIYA İNECEK

LPDDR5X pazarındaki tedarik sıkıntılarına karşı hazırlanan yeni mimari düzenlemeyle Vera Rubin NVL72 raflarındaki SOCAMM kapasitesi, sistem başına daha önce planlanan 192 GB seviyesinden 96 GB’a çekilecek. Vera CPU’larının desteklediği toplam bellek kapasitesi de 54-55 TB aralığından 28 TB seviyesine indirilecek. CPU raflarında her işlemci için 96 GB SOCAMM kullanılacak. Yüksek işlem gücü gerektiren GPU tarafında ise HBM4 kapasitesinde değişikliğe gidilmeyecek. Sistemler, performansı korumak amacıyla raf başına 20,7 TB HBM4 bellek kullanmayı sürdürecek.

BELLEK MALİYETİ 2,1 MİLYON DOLARA ÇIKABİLİR

Bernstein tarafından yapılan analizlerde, rekor seviyelere ulaşan bellek fiyatları nedeniyle tek bir NVL72 Rubin sisteminin toplam maliyetinin 9,1 milyon dolara kadar çıkabileceği öngörüldü. Kurum ayrıca yeni nesil HBM4 bellek fiyatlarının 2027 itibarıyla gigabayt başına 53 dolara ulaşabileceği uyarısında bulundu. GF Securities’e göre revizyon yapılmaması halinde yalnızca bellek giderleri, VR200 sisteminin toplam malzeme maliyetinin yüzde 29’una karşılık gelecek. Yaklaşık 2,1 milyon dolarlık bu tutar, Nvidia’nın hedeflediği yüzde 20’lik üst sınırın üzerinde bulunuyor. Yapılacak donanımsal düzenlemeyle VR200 sistemlerindeki LPDDR5X maliyetinin 293 bin ila 586 bin dolar aralığına çekilmesi bekleniyor. Böylece maliyetin 1,2 milyon dolarlık ilk tahminin altında tutulması hedefleniyor.

İŞLEM KAPASİTESİ 10 KAT ARTACAK

Bellek kapasitesindeki düzenlemeye rağmen Vera Rubin platformunun işlem gücünde hedeflenen artış korunacak. CoreWeave verilerine göre Nvidia’nın mevcut Blackwell altyapısına sahip sistemleri, 150 megavat güç tüketimiyle saniyede 80 bin token işlem kapasitesi sunuyor. Yeni nesil VR200 NVL72 Vera Rubin platformunda ise işlem kapasitesinin 10 kat artırılarak saniyede 800 bin token seviyesine çıkarılması planlanıyor. Nvidia, bellek tarafındaki yeni düzenlemeyle işlem performansını korurken sistem başına malzeme maliyetini ve artan bellek fiyatlarının toplam maliyet üzerindeki payını azaltmayı hedefliyor.