HBM’nin yerini alacak yeni nesil bellek teknolojileri geliyor: HBC ve HBF

Yapay zeka çiplerine yönelik yatırımlar, model eğitiminden büyük ölçekli çıkarım süreçlerine doğru kayarken, yarı iletken endüstrisinde bellek mimarileri yeniden şekilleniyor. Bugüne kadar GPU’larla yüksek hızlı veri alışverişi sağlayan Yüksek Bant Genişlikli Bellek, yapay zeka donanımlarının en kritik bileşenlerinden biri oldu. Ancak çıkarım çağında milyonlarca kullanıcının sürekli talep oluşturduğu sistemlerde enerji tüketimi, veri hareketi ve işletme maliyetleri daha belirleyici hale geliyor. Bu nedenle teknoloji şirketleri, HBM’yi tamamlayacak veya bazı kullanım alanlarında onun yerini alabilecek yeni nesil bellek çözümlerine yöneliyor.

 

QUALCOMM’DAN HBC MİMARİSİ
Qualcomm, HBM’in veri trafiği ve güç tüketimi sorunlarına alternatif olarak Yüksek Bant Genişlikli Hesaplama adı verilen HBC mimarisini gündeme aldı. HBC sistemi, düşük güç tüketimiyle bilinen LPDDR bellekleri doğrudan yapay zeka hızlandırıcısının üzerine dikey biçimde yerleştiriyor. Bu yapı, tüm ham verilerin işlemciye taşınması yerine bazı temel hesaplama işlevlerinin belleğe yakın noktada yapılmasını sağlıyor. Böylece işlemciye yalnızca gerekli sonuçlar aktarılıyor. Qualcomm, bu yaklaşımın mevcut HBM mimarisine kıyasla watt başına altı kat daha yüksek bant genişliği sunduğunu belirtiyor.

 

NVIDIA SOCAMM İLE GÜÇ TÜKETİMİNİ HEDEFLİYOR
Yapay zeka donanım pazarının önde gelen şirketlerinden NVIDIA da güç tüketimini azaltmaya yönelik yeni bir bellek mimarisine yöneliyor. Şirket, akıllı telefon dünyasında kullanılan düşük güç odaklı bellek yaklaşımını sunucu pazarına taşıyan SOCAMM mimarisini devreye alıyor. Small Outline Compression Attached Memory Module olarak adlandırılan bu yapı, geleneksel sunucu DRAM çözümlerine göre daha yüksek güç verimliliği sunmayı hedefliyor. NVIDIA’nın yeni nesil Rubin GPU mimarisinde yüksek performans hatlarında HBM4 kullanılmaya devam edecek. Ancak sistemin CPU tarafını oluşturan Vera platformunda SOCAMM2 standardının benimsenmesi planlanıyor. Bu yeni standardın ana üretici ortakları arasında Samsung Electronics ve SK Hynix bulunuyor.

 

HBF YÜKSEK HACİMLİ VERİ İÇİN GELİYOR
Yüksek Bant Genişlikli Flaş olarak adlandırılan HBF teknolojisi, DRAM yerine NAND flaşın dikey olarak istiflenmesine dayanıyor. NAND flaş, DRAM’e göre daha yavaş olsa da elektrik kesildiğinde verileri saklayabilmesi ve aynı alanda çok daha düşük maliyetle yüksek depolama kapasitesi sunması nedeniyle veri merkezleri için farklı bir kullanım alanı oluşturuyor. HBF, yüksek hızlı HBM ünitelerinde tutulması gerekmeyen ancak büyük hacimli yapay zeka verilerinin daha düşük maliyetle saklanmasını hedefliyor. Bu yapı, bulut veri merkezlerinde altyapı maliyetlerini azaltabilecek tamamlayıcı bir bellek katmanı olarak değerlendiriliyor. SanDisk, SK Hynix’in de katılımıyla HBF teknolojisinin endüstri standardı haline gelmesi için sektörel girişimlere öncülük ediyor.

 

ZAM TERMAL YÜKÜ AZALTMAYI AMAÇLIYOR
Intel ve SoftBank iştiraki Cyfron Memory, HBM’e alternatif olabilecek Z-Açılı Bellek mimarisi üzerinde çalışıyor. ZAM teknolojisi, HBM’de olduğu gibi DRAM katmanlarını dikey biçimde üst üste yerleştiriyor. Ancak veri yollarını geleneksel düz hatlar yerine eğik açıyla konumlandırarak çip içindeki ısı ve güç tüketimi sorunlarını azaltmayı hedefliyor. Bu tasarım, özellikle yüksek performanslı yapay zeka sistemlerinde termal yönetimi iyileştirmeye yönelik yeni bir bellek mimarisi olarak öne çıkıyor.

 

BELLEK İÇİ İŞLEME TİCARİ PROTOTİPLERE YAKLAŞIYOR
Bellek pazarındaki bir diğer önemli yönelim, Bellek İçi İşleme teknolojisi oldu. PIM olarak bilinen bu yaklaşım, hesaplama yeteneklerini doğrudan bellek yarı iletkeninin içine entegre etmeyi amaçlıyor. Böylece verinin işlemci ile bellek arasında sürekli taşınması yerine, bazı işlemler verinin bulunduğu yerde yapılabiliyor. Bu yapı, veri transferinden kaynaklanan enerji kayıplarını azaltma potansiyeli taşıyor. Samsung ve SK Hynix, kurumsal pazara sunulmak üzere LPDDR tabanlı PIM çözümleri geliştiriyor.

 

YENİ REKABET ALANI SİSTEM TASARIMI
Yapay zeka donanımlarında bellek rekabeti, tek bir standart etrafında şekillenmek yerine farklı kullanım senaryolarına göre çeşitleniyor. HBM, yapay zeka modellerinin yoğun veriyle eğitildiği dönemde kritik bir bellek teknolojisi olarak öne çıktı. Ancak çıkarım çağında, enerji verimliliği, düşük gecikme, yüksek kapasite ve verinin daha az hareket ettirilmesi daha önemli hale geliyor. Bu nedenle HBC, SOCAMM, HBF, ZAM ve PIM gibi farklı mimariler, yapay zeka bellek pazarında yeni rekabet başlıkları oluşturuyor. Sektörde “ikinci HBM” olarak tanımlanan bu dönem, belleğin yalnızca veri saklayan bir bileşen olmaktan çıkıp, işlemciye daha yakın ve daha entegre çalışan sistem tasarımlarının parçası haline geldiğini gösteriyor.