Yapay zekada bağlantı çöküşü çözüldü: CONDA ile RAG doğruluğu %24,5 arttı

Üretken yapay zekanın eğitim sonrasında ortaya çıkan güncel bilgilere erişmesini sağlayan Bilgi Erişim Destekli Üretim (RAG) mimarisi, veritabanlarındaki değişimler nedeniyle doğruluk sorunları yaşayabiliyor. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) Bilgisayar Bilimleri Bölümü’nden Prof. Min-Soo Kim liderliğindeki ekip, bu soruna yönelik CONDA’yı (Bağlantı Farkındalıklı Dinamik Dizin) geliştirdi. 

Veri akışı sürerken arama yollarını koruyan dinamik dizinleme teknolojisine ilişkin çalışma, Proceedings of the VLDB Endowment dergisinde yayımlandı. Yöntem, büyük dil modellerinin (LLM) güncel verilere güvenilir biçimde erişmesini destekliyor.

BAĞLANTI ÇÖKÜŞÜ SORUNU 

Şirket içi belgeler, haberler ve ürün katalogları gibi sürekli değişen veritabanlarında yeni bilgilerin eklenmesi ve eskilerin silinmesi, arama ağlarında kopukluk yaratabiliyor. Yapay zeka sistemleri, belgelerin anlamlarını sayısal vektörlere dönüştürerek benzer bilgi parçaları arasında bağlantılar kuruyor. Ancak güncellemeler sırasında bu bağlantılar bozulabiliyor.

Araştırmacıların 'bağlantı çöküşü' (connectivity collapse) olarak adlandırdığı durumda, aranan bilgi veritabanında bulunmasına rağmen ona ulaşan yollar kopuyor. Böylece sistem doğru bilgiye erişemiyor ve arama doğruluğu belirgin biçimde düşüyor.

DOĞRULUK VE HIZ 

CONDA, veri noktaları arasındaki mesafelerin yanı sıra bilgiye erişmek için gereken arama yollarının bağlantıda kalıp kalmadığını da eş zamanlı izliyor. Veri eklendiğinde veya silindiğinde kritik bağlantıları koruyarak bilgi parçalarının ağdan kopmasını önlüyor.

Dinamik güncelleme deneylerinde, mevcut en gelişmiş vektör arama yöntemlerine kıyasla arama doğruluğunu, yani recall oranını yüzde 24,5’e kadar artırdı. Veri güncelleme işlem hızı ise 1,90 kata çıktı.

 Sistem, 100 milyon vektör içeren veri kümesinde altı saat süren testlerde karşılaştırılan yöntemler arasında en düşük arama gecikmesini ve en yüksek doğruluğu sağladı.

TİCARİ PAZARA HAZIRLIK 

Teknolojinin şirket içi belge arama motorları, haber ve ürün öneri sistemleri ile dinamik RAG mimarilerinde temel bir yapı taşı olması öngörülüyor. Prof. Min-Soo Kim’in kurduğu yapay zeka veri altyapısı şirketi GraphAI, CONDA’yı ticari veritabanı ürünü AkasicDB’ye entegre etmeye başladı. Sistemin bu yılın dördüncü çeyreğinde pazara sunulması hedefleniyor.

Prof. Kim, “RAG yönteminin temel değeri, büyük dil modellerinin eğitimde yer almayan en güncel bilgilere anında ulaşabilmesidir. CONDA, verilerin sürekli değiştiği gerçek dünya koşullarında bile yapay zekanın güncel bilgiyi uzun süreler boyunca güvenle kullanmasını sağlayan güçlü bir veri altyapısı sunuyor” dedi.