OpenAI kendi yapay zeka çipini geliştirdi: Jalapeno
OpenAI, kendi geliştirdiği Jalapeno adlı yapay zeka işlemcisinin teknik ayrıntılarını açıkladı. TSMC’nin 3 nanometre üretim süreci ve HBM4 bellek altyapısını kullanan çip, çıkarım iş yüklerinde watt başına verimliliği artırmayı hedefliyor.
OpenAI, yapay zeka modellerinin çıkarım işlemlerinde NVIDIA GPU’larına olan bağımlılığını azaltmak amacıyla geliştirdiği Jalapeno adlı özel ASIC işlemcisini tanıttı. Şirketin Gluon programlama diliyle desteklenen çip, NVIDIA’nın CUDA ekosistemine alternatif olacak şekilde geliştiriliyor. SemiAnalysis verilerine göre Jalapeno, TSMC’nin N3P üretim sürecinde üretilen tek retikül boyutlu işlemci zarı, N3E I/O yongası ve paket başına 15,4 TB/s bellek bant genişliği sağlayan HBM4 bellek altyapısını bir araya getiriyor.
ÖZEL MİMARİ
Jalapeno’nun çekirdek ve bellek yapısı, veri aktarımındaki darboğazları azaltmak amacıyla eşleşen dilimlere ayrılıyor. Sistem, geleneksel 16-bit ve 8-bit sayısal formatların yanında veriyi 4-bit seviyesine kadar sıkıştıran MXFP altyapısını kullanıyor. Ağırlık-sabit sistolik matris dizileri, işlem hücreleri arasında sürekli veri akışı sağlarken harici bellek erişiminden kaynaklanan beklemeleri azaltıyor. İşlemcide ayrıca sıra dışı yürütme destekli 64-bit skalar çekirdekler ile yüksek hassasiyetli işlemler için FP32/INT32 vektör çekirdekleri bulunuyor.
RAF ÖLÇEĞİ
OpenAI, Jalapeno’yu tekil bir hızlandırıcı olarak değil, raf ölçekli bir altyapının parçası olarak konumlandırıyor. Katsu adı verilen CPU ana bilgisayar rafları ile Vindaloo adlı ASIC hızlandırıcı rafları birlikte çalışıyor. Sistemde 16 adet çift AMD EPYC Turin işlemcili Katsu tepsisi, yüksek hızlı PCIe Doğrudan Bağlantılı Bakır kablolar üzerinden 128 Jalapeno çipi içeren Vindaloo rafına bağlanıyor. Toplam 27,5 TB HBM4 belleğe sahip mimarinin 4-bit işlemlerde 1,7 ExaFLOP seviyesinde hesaplama gücüne ulaşabildiği belirtiliyor.
ENERJİ VERİMLİLİĞİ
InferenceX testlerine göre Jalapeno, GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T gibi büyük ölçekli modellerde NVIDIA GB200 ve GB300 sistemlerine kıyasla watt başına 1,5 ila 1,9 kat daha yüksek verimlilik gösteriyor. İşlemcinin uçtan uca gecikme süresini 1,7 ila 3,6 kat azalttığı, 700W TDP değerine sahip olmasına karşın aktif yapay zeka iş yüklerinde sürekli güç tüketimini yaklaşık 550W seviyesinde tuttuğu belirtiliyor.
TEKLİ TOKEN
Jalapeno, performansı artırmak için spekülatif kod çözme yöntemleri yerine Tekli Token Tahmini altyapısını kullanıyor. Bu yapı, HBM4 bellek kapasitesi ve yüksek bant genişliğiyle birlikte çıkarım iş yüklerinin doğrudan hızlandırılmasına odaklanıyor. OpenAI, Jalapeno ile çip, yazılım ve raf ölçekli veri merkezi altyapısını aynı sistem içinde bir araya getiriyor.