Yapay zeka veri merkezlerine yapılan yatırımlar hızla artarken, donanım tercihlerinde maliyet ve performans dengesi daha kritik hale geliyor. Morgan Stanley, yayımladığı son piyasa raporunda NVIDIA’nın gelişmiş GPU’ları ile Google ve Amazon’un geliştirdiği özel yapay zeka çipleri arasındaki farkları değerlendirdi. Raporda, yatırımcıların en çok merak ettiği başlıklardan biri olan 'hangi çip daha kârlı?' sorusuna maliyet ve enerji verimliliği üzerinden yanıt arandı.
İLK YATIRIM MALİYETİ YÜKSEK
Morgan Stanley’e göre, 1 gigawatt kapasiteli bir veri merkezini NVIDIA’nın yeni nesil Blackwell yapay zeka GPU’larıyla kurmak, aynı tesisi Google’ın TPU’ları veya Amazon’un Trainium çipleriyle kurmaya kıyasla toplam sahip olma maliyetini yüzde 100 artırıyor. NVIDIA CEO’su Jensen Huang, şirketin çiplerine yönelik yüksek fiyat eleştirilerine karşı uzun süredir ilk yatırım maliyetinin yüksek olmasına rağmen uzun vadeli getirinin güçlü olduğunu savunuyor. Morgan Stanley’nin analizleri de bu görüşü destekleyen sonuçlar içeriyor.
WATT BAŞINA PERFORMANSTA FARK
Rapora göre NVIDIA donanımları, enerji verimliliği ve işlem gücü açısından özel üretim ASIC’lere kıyasla 2 ila 8 kat daha yüksek performans sunabiliyor. Watt başına TFLOP skorlarında listenin başında 19,5 puanla NVIDIA Vera Rubin yer alıyor. NVIDIA Vera Rubin FP8 6,8 puan, NVIDIA GB300 FP8 6,0 puan, Google TPUv7 FP8 4,3 puan, NVIDIA H100 FP8 3,1 puan ve Amazon Trn3 FP8 2,5 puan olarak sıralanıyor. Veriler, Google’ın özel yapay zeka çiplerinin NVIDIA’nın yeni nesil Blackwell serisinin gerisinde kaldığını, ancak önceki nesil H100 çiplerini aştığını gösteriyor.
TOKEN BAŞINA MALİYET REKABETİ
NVIDIA enerji verimliliği ve ham işlem gücü tarafında öne çıkarken, pazarda farklı maliyet metrikleri de gündeme geliyor. Yapay zeka altyapı sağlayıcısı Nebius’a göre, ticari müşteriler artık donanımları yalnızca saatlik çalışma maliyetiyle değil, üretilen milyon token başına maliyetle de değerlendiriyor. Nebius’un pazar verilerine göre Groq’un yapay zeka çipleri milyon token başına 5 ila 10 sentlik maliyet oluştururken, NVIDIA’nın Blackwell çiplerinde bu maliyet 25 sent seviyesinde bulunuyor. Groq çiplerinin saniyede 800 token üretebildiği, NVIDIA’nın ise saniyede 450 token seviyesinde kaldığı iddiaları, yapay zeka donanım pazarında rekabetin yalnızca işlem gücüyle değil, birim maliyet ve üretim hızı üzerinden de yoğunlaştığını gösteriyor.
