Nvidia, yapay zekaya özel NVHBM bellek teknolojisini duyurdu

Nvidia, yapay zeka modellerinin trilyon parametre ölçeğine ulaştığı bir dönemde bellek darboğazlarını azaltmak amacıyla NVLink Fusion altyapısının uzantısı olarakgeliştirdiği NVHBM çözümünü duyurdu. Yeni mimaride bellek denetleyicisi ana işlemci, yani XPU üzerinden çıkarılarak doğrudan Yüksek Bant Genişlikli Bellek taban yongasına yerleştiriliyor. Şirket, bu yaklaşımın standart bellek çözümlerine kıyasla bant genişliği ve enerji verimliliğini artırmayı hedeflediğini belirtiyor.

BELLEK MİMARİSİ

Bellek denetleyicisinin HBM tabanına taşınmasıyla standart HBM4E mimarisine göre bant genişliğinde yüzde 30’un üzerinde artış sağlanırken, güç tüketimi yüzde 15 oranında azaltılıyor. Ana yongada açılan yüzde 25’lik alan ek işlem yetenekleri için kullanılabiliyor. JEDEC HBM4e standardıyla karşılaştırıldığında fiziksel katman ve destek alanı yüzde 67’ye kadar küçültülürken, daraltılan arayüz tasarımı ve sadeleştirilen bağlantı yapısı toplam çip yerleşiminde yüzde 80’e varan oranda daha fazla kullanılabilir silikon alanı sağlıyor.

ORTAK EKOSİSTEM

Nvidia, farklı bellek üreticilerinin aynı altyapıya entegre olabilmesini sağlayacak standart bir NVHBM ekosistemi oluşturmayı planlıyor. Bu yapıyla mühendislik maliyetlerinin ve ürünlerin pazara çıkış sürelerinin azaltılması hedefleniyor. Teknolojiyi ilk benimseyen kurumsal ortaklardan biri olan Amazon bünyesindeki Annapurna Labs, yeni nesil AWS Trainium4 yapay zeka çiplerinde NVHBM ile NVLink ölçeklendirme altyapısını kullanacak.

2028 HEDEFİ

NVHBM teknolojisinin Nvidia’nın gelecek dönem mimarisi olan Feynman GPU’larında da kullanılması planlanıyor. Özel bellek çözümünün 2028 itibarıyla ticari pazarda kullanıma sunulması öngörülüyor.