Yüksek performanslı yapay zeka altyapılarının artan talebi, bulut hizmeti sağlayıcılarını daha verimli donanım çözümleri aramaya yöneltti. NVIDIA GPU’larına dayalı sistemlerin yüksek bellek ve enerji ihtiyacı artık sürdürülebilirlik açısından sorgulanırken, Kore'den gelen yeni bir teknoloji çözüm olabilir.
GÜÇTE BÜYÜK TASARRUF
KAIST Bilgisayar Okulu'ndan Profesör Jongse Park liderliğindeki araştırma ekibi, HyperAccel Inc. iş birliğiyle GPU’lardan %44 daha az enerji harcayan, ancak ortalama %60’tan fazla çıkarım performansı sağlayan yeni bir NPU (sinirsel işlem birimi) çekirdek mimarisi geliştirdi.
ÇIĞIR AÇAN TEKNOLOJİ
21–25 Haziran 2025 tarihlerinde Tokyo’da düzenlenen Uluslararası Bilgisayar Mimarisi Sempozyumu'nda tanıtılan teknoloji, özellikle üretken yapay zeka hizmetleri için özel olarak tasarlandı. ChatGPT gibi büyük dil modellerinin çalıştırıldığı AI bulut altyapılarında kullanılmak üzere geliştirilen sistem, bellek darboğazlarını KV önbellek nicelemesi ile aşmayı başarıyor.
NPU GÜCÜYLE AZ CİHAZ, FAZLA PERFORMANS
Yeni çözüm, çok sayıda GPU’ya gerek kalmadan, daha az sayıda NPU aygıtı ile yüksek bant genişliği ve kapasite ihtiyacını karşılayabiliyor. Araştırmacılar, mevcut NPU mimarilerinin yapısını değiştirmeden bellek arayüzleriyle entegre olabilen donanım tasarımıyla dikkat çekiyor.
YÜKSEK VERİMLİLİK, YENİ KODLAMA
Sistemde, niceleme algoritmalarına ek olarak sınırlı bellek bant genişliğinin verimli kullanımını sağlayan sayfa düzeyinde bellek yönetimi ve KV önbellek için özel kodlama teknikleri de geliştirildi. Bu mimari, yalnızca veri merkezlerinde değil, mobil ve gömülü sistemlerdeki aracı yapay zeka (AX) uygulamaları için de uygunluk taşıyor.
MALİYETLERİ DÜŞÜRECEK
Profesör Park, “Yeni NPU mimarisi, bellek ihtiyacını azaltan niceleme teknikleriyle birleştirildi. Bu da doğruluk kaybı yaşanmadan yüksek verimli, düşük güç tüketimli bir AI sistemi elde etmemizi sağladı. Yapay zeka dönüşüm ortamlarında önemli bir rol üstleneceğini öngörüyoruz,” dedi.
ÜRETİCİ YAKLAŞIMI
Teknoloji, üretken yapay zekanın yalnızca performansını değil, karbon ayak izini de azaltmayı hedefliyor. Geliştirilen mimariyle AI merkezlerinin daha sürdürülebilir hale gelmesi, enerji ve altyapı maliyetlerinde kayda değer azalma yaratması bekleniyor.
TEKNOLOJİDE YENİ AŞAMA
Bu gelişme, yüksek işlem gücü gerektiren üretken yapay zeka uygulamalarında verimliliği artırmak isteyen teknoloji firmaları için yeni bir kapı aralıyor. Özellikle düşük güçle çalışan yapay zeka çekirdeklerine olan ilgi önümüzdeki yıllarda hızla artabilir.
