Güney Kore'den yapay zeka güvenlik testlerini 7 kat güçlendiren yöntem: S-GFN

Üretken yapay zeka sistemlerinin ticari kullanımı yaygınlaşırken, modellerin siber saldırılara karşı dayanıklılığı teknoloji şirketlerinin öncelikli gündemlerinden biri haline geldi. Kore İleri Bilim ve Teknoloji Enstitüsü Elektrik Mühendisliği Okulu araştırmacıları, yapay zeka sistemlerindeki gizli açıkları ortaya çıkarmak için uygulanan ve 'kırmızı takım' olarak adlandırılan saldırı doğrulama süreçlerindeki takviyeli öğrenme kısıtlamalarını aşan yeni bir yöntem geliştirdi.

Profesör Junmo Kim liderliğindeki ekip tarafından geliştirilen Stable-GFlowNet çerçevesi, mevcut yöntemlere göre 7 kat daha etkili güvenlik testi yapabiliyor. Önceki sistemler dar bir saldırı kümesine odaklandığı için üretilen senaryoların çeşitliliği sınırlı kalıyordu. S-GFN ise yüzde 92’lik başarı oranını koruyarak 134 benzersiz saldırı türü keşfetti. Çalışma, ICML 2026 Konferansı’nda ilk yüzde 2,2’lik dilime girerek 'Öne Çıkan Makale' seçildi.

ÜÇ TEKNİKLE EĞİTİM SÜRECİ DENGELENDİ

Araştırma ekibi, GFlowNet tabanlı modellerde görülen eğitim çökmesi ve gürültülü veri sorunlarını üç temel teknikle giderdi. Karşılaştırmalı Yörünge Dengesi yöntemiyle üretilen saldırı rotaları çiftler halinde karşılaştırıldı. Böylece hesaplama karmaşıklığı azaltılırken model eğitiminin daha kararlı hale gelmesi sağlandı.

Gürültü Gradyan Budama sistemi, küçük ödül dalgalanmalarını filtreleyerek modelin yalnızca anlamlı saldırı parametrelerinden öğrenmesine imkan verdi. Min-K Akıcılık Dengeleyici ise oluşturulan komutların doğal insan diline uygun ve akıcı olmasını sağladı. Bu yöntemler sayesinde sistem, anlamsız metin dizileri yerine tutarlı ve karmaşık saldırı senaryoları üretebildi.

FARKLI SALDIRILARA KARŞI DİRENÇ GÖSTERDİ

S-GFN teknolojisiyle eğitilen savunma modelleri, eğitim sırasında karşılaşmadıkları saldırı tekniklerine karşı da yüksek genelleme performansı ve direnç gösterdi. Yöntem, yapay zeka ürünleri pazara sunulmadan önce olası güvenlik açıklarının belirlenmesine imkan tanıyor. Bu yapının, yapay zeka altyapı sağlayıcılarının ürün geliştirme ve piyasaya sürme öncesindeki risk maliyetlerini azaltması bekleniyor.

İLAÇ KEŞFİNDE DE KULLANILABİLECEK

Geliştirilen algoritma yalnızca siber güvenlik doğrulamalarında değil, ilaç keşfinde moleküler üretim ve veri eşleştirme gibi yüksek bütçeli araştırma alanlarında da kullanılabilecek. Profesör Junmo Kim, yöntemin sınırlı veri ve yüksek gürültü içeren gerçek yaşam koşullarında da çalışabildiğini belirtti. Sistem, güvenilir yapay zeka ürünlerinin geliştirilmesi ve düzenleyici kurumların onay süreçlerinin hızlandırılması açısından yeni bir altyapı sunuyor.