Inception'dan difüzyon tabanlı dil modeli: Mercury 3 saniyede 1.000 token üretiyor

Kaliforniya merkezli yapay zeka şirketi Inception, dördüncü nesil difüzyon dil modeli Mercury 3’ü tanıttı. Şirketin paylaştığı sonuçlara göre model, çeşitli kıyaslama testlerinde GPT-6 Luna ve Claude Haiku5.5’i geride bıraktı ve bu rakiplerinden dört ila sekiz kat daha hızlı çalıştı. İlk nesle göre 40 kat daha büyük parametre ölçeğine ulaşan Mercury 3, yüksek üretim hızını korurken tek bir istemde 1 milyon tokenlık içeriği işleyebilecek bağlam kapasitesi sundu.

DİFÜZYONLA PARALEL ÜRETİM 

Geleneksel otoregresif dil modelleri, metni her adımda bir sonraki tokenı tahmin ederek sıralı biçimde oluşturuyor. Difüzyon tabanlı modeller ise birden fazla tokenı eş zamanlı üretip adım adım iyileştiriyor. Inception, bu yaklaşımla hız ve model yetkinliği arasında daha elverişli bir denge kurmayı amaçladı.

Şirketin kurucu ortağı Stefano Ermon, küçük modellerin hızlı ancak sınırlı, daha yetkin modellerin ise yüksek gecikmeli çalışmasının geliştiricileri tercih yapmaya zorladığını belirtti. Ermon’a göre Mercury 3’ün ulaştığı sonuçlar, difüzyon mimarisinin hızını koruyarak ölçeklenebildiğini gösterdi.

BİR MİLYONLUK BAĞLAM 

Mercury serisinin ilk modeli Haziran 2025’te tanıtılmıştı. Ermon, o tarihten bu yana difüzyon yönteminin daha büyük modellere taşınıp taşınamayacağının tartışıldığını söyledi. Seri, Mercury 2 ile akıl yürütme yeteneği, Mercury 2.5 ile 260 bin tokenlık bağlam penceresi kazandı. Mercury 3’te bu kapasite yaklaşık dört kat artırılarak 1 milyona çıkarıldı.

Böylece tek seferde işlenebilecek bilgi hacmi genişletildi. Ermon, bir sonraki modelin eğitimine de başladıklarını açıkladı.

AJANLARDA GECİKME HEDEFİ 

Inception; canlı çeviri, yazım asistanları, etkileşimli özel ders ve otonom yazılım ajanları gibi yanıt süresinin belirleyici olduğu alanlara odaklanıyor. Özellikle internette bilgi arayan, günlük kayıtlarını tarayan ve çok adımlı görevler yürüten ajanlarda, her aşamadaki gecikme toplam süreye ekleniyor.

Şirket, Mercury 3 ile geliştiricilerin daha düşük kapasiteli modellere yönelmeden bu birikimli gecikmeleri azaltmasını hedefliyor. Erken erişim kullanıcılarından eğitim teknolojileri şirketi RevisionDojo, modeli entegre ettikten sonra öğrencilere yönelik kapsamlı geri bildirimlerin yanıt süresinin yaklaşık bir saniyeye indiğini bildirdi.

API VE PLATFORMLAR 

Mercury 3, Inception API’nin yanı sıra Baseten, OpenRouter ve Vercel üzerinden genel erişime açıldı. Model, OpenAI API formatıyla tam uyumlu olarak sunuldu.

Bu uyumlulukla geliştiricilerin mevcut yazılım altyapılarında ve kod tabanlarında köklü değişikliklere gerek kalmadan difüzyon modeline geçebilmesi amaçlanıyor. Inception, yüksek hız ile geniş bağlam kapasitesini birleştirerek kurumsal yapay zeka iş yüklerinde gecikmeden kaynaklanan maliyetleri azaltmayı hedefliyor.