Yapay zeka çipleri için optik bağlantı sistemi: GPU’dan 100 kat hızlı

Yapay zeka modellerinin büyümesi, veri merkezlerinde kullanılan işlemcilerin sayısını, enerji tüketimini ve altyapı maliyetlerini artırıyor. Bununla birlikte yapay zeka sistemlerindeki temel darboğazlardan biri, işlemcilerin hesaplama hızından çok çipler arasındaki veri aktarımında ortaya çıkan gecikmelerden kaynaklanıyor. Pekin Üniversitesi araştırmacıları, geleneksel elektrik bağlantılarının oluşturduğu bu sorunu azaltmak amacıyla birden fazla hesaplama çipini çip üzerinde tamamen optik bir ağ üzerinden birbirine bağlayan yeni bir sistem geliştirdi.

6,4 TBPS BANT GENİŞLİĞİNE ULAŞTI

Geliştirilen platformda, elektrik sinyallerini optik sinyallere dönüştüren ve tekrar elektrik sinyaline çeviren 400 Gbps kapasiteli silikon fotonik alıcı-verici kullanıldı. Bu bileşen, hesaplama birimleri arasındaki veri trafiğini yöneten 16×16 optik anahtar çipiyle birlikte çalıştı. Sistem, toplam 6,4 Tbps anahtarlama bant genişliğine ulaştı. Araştırmacılar, optik anahtarın bağlantı kayıpları dahil toplam sinyal kaybının 5 desibelin altında kaldığını belirledi. Böylece sistem, harici bir optik kazanç düzeltme donanımına ihtiyaç duymadan yüksek hızlı veri aktarımı gerçekleştirdi. Platformun 100 nanometreyi aşan spektral yanıt aralığına sahip olduğu ve bu özelliğin gelecekte bant genişliğinin artırılmasına imkân sağlayabileceği belirtildi.

VERİLER BELLEĞE UĞRAMADAN AKTARILDI

Araştırma ekibi, sistemi görüntülerdeki gürültüyü gideren beş katmanlı bir evrişimsel sinir ağı üzerinde test etti. Deneyde sinir ağının her katmanı ayrı bir hesaplama birimine yerleştirildi ve bu birimler optik anahtar üzerinden boru hattı biçiminde birbirine bağlandı. Geleneksel sistemlerde ara veriler, bir sonraki işlemciye gönderilmeden önce belleğe yazılıp yeniden okunuyor. Yeni mimaride ise özellik haritaları, bellekte tekrar depolanmadan doğrudan optik ağ üzerinden bir sonraki hesaplama birimine aktarıldı. Bu yöntemle bellek aktarımından kaynaklanan gecikmeler azaltılırken işlemcilerin kesintisiz çalışması sağlandı.

GPU’DAN 100 KATTAN FAZLA HIZLI ÇIKARIM

Deney sonuçlarına göre optik sistem, aynı görevi yerine getiren ticari bir GPU’nun ihtiyaç duyduğu hesaplama kaynaklarının yalnızca dokuzda birini kullandı. Buna rağmen sistemin çıkarım hızının ticari GPU’ya kıyasla 100 kattan fazla olduğu tespit edildi. Araştırmacılar, performans artışının yalnızca işlemci gücünden değil, algoritma, mikro mimari ve çipler arası bağlantının birlikte tasarlanmasından kaynaklandığını belirtti.

ENERJİ TÜKETİMİNİ AZALTABİLİR

Araştırma ekibi, algoritmaların, işlemci mimarilerinin ve çip düzeyindeki bağlantıların birlikte geliştirilmesinin sınırlı hesaplama kaynaklarıyla daha yüksek performans sağlanmasına yardımcı olabileceğini ifade etti. Optik bağlantı sisteminin veri merkezlerindeki enerji tüketimini azaltabileceği ve uç bilişim uygulamalarında daha düşük güçle çalışabilecek yapay zeka sistemlerinin geliştirilmesine katkı sunabileceği belirtildi. Silikon fotonik alıcı-vericiler ile yüksek hızlı çip arayüzlerindeki gelişmelerin, optik bağlantılı hesaplama düğümlerinin dağıtılmış bilgi işlem sistemlerinde kullanılmasını kolaylaştırabileceği değerlendiriliyor.