Kişiselleştirilmiş yapay zekaya yeni güvenlik çerçevesi

Şirketlerin rekabet avantajı sağlamak amacıyla kendi mali verileri, ticari sırları ve müşteri bilgileri üzerinden kişiselleştirilmiş yapay zeka modelleri geliştirmesi giderek yaygınlaşıyor. Kurumsal verilere göre eğitilen modeller operasyonel verimliliği artırırken, yeniden eğitim sürecinde mevcut güvenlik filtrelerinin zayıflaması ciddi bir risk oluşturuyor. Yapay zeka modelleri yeni görevler öğrenirken, normal şartlarda reddetmesi gereken zararlı komutlara karşı daha savunmasız hale gelebiliyor ve veri sızıntısı ihtimali artabiliyor. Güney Kore’deki Kore İleri Bilim ve Teknoloji Enstitüsü araştırmacıları, büyük dil modellerinin kurumsal veya bireysel verilere göre yeniden eğitilmesi sırasında güvenlik yapısının bozulmasını önleyen yeni bir yöntem geliştirdi. KAIST Elektrik Mühendisliği Okulu’ndan Profesör Changick Kim liderliğindeki ekip, “Buffer-and-Reinforce” adı verilen iki aşamalı bir eğitim çerçevesi tasarladı. Doktora öğrencisi Seokil Ham’ın ilk yazarı olduğu çalışma, Uluslararası Makine Öğrenimi Konferansı’nda Öne Çıkan Sunum olarak seçildi.

GEÇİCİ TAMPON KATMANI DEVREYE GİRİYOR

Mevcut sistemlerde yapay zeka modellerine yeni yetenekler kazandırılırken, modelin güvenlik yapısında geçici zayıflamalar oluşabiliyor. Bu aşamada sistem, normal koşullarda reddetmesi gereken zararlı ve manipülatif komutlara daha açık hale gelebiliyor. KAIST ekibi, bu geçici zayıflamanın modelin çekirdek güvenlik yapısını kalıcı olarak bozmadığını belirledi. Araştırmacılar bu bulgudan hareketle, modeli yeniden eğitim sırasında koruyan iki aşamalı bir sistem geliştirdi. Yöntemin ilk aşamasında, kullanıcı verileri modele aktarılırken BufferLoRA adı verilen geçici bir tampon modülü kullanılıyor. Bu katman, zararlı veya manipülatif verilerin temel modele doğrudan yerleşmesini engelliyor. Böylece model, zararlı davranış kalıplarını öğrenmeden yalnızca kendisinden beklenen yeni ve yararlı görevleri edinmeye devam ediyor. Yeniden eğitim süreci tamamlandığında BufferLoRA modülü sistemden kaldırılıyor.

QR AYRIŞTIRMASIYLA SEÇİCİ GÜÇLENDİRME

İkinci aşamada ise ReinforceLoRA adı verilen güvenlik güçlendirme modülü devreye giriyor. Araştırmacılar bu bölümde, farklı bilgi türlerini birbirinden ayırarak yalnızca gerekli bileşenlerin sisteme aktarılmasını sağlayan QR ayrıştırması yöntemini kullandı. Bu matematiksel teknik sayesinde model, kurumsal verilerden öğrendiği yeni görevleri ve işlevleri korurken güvenlik protokolleri yeniden güçlendiriliyor. Yöntem, yeniden eğitim sırasında kazanılan faydalı bilgilerin kaybolmasını önlerken zararlı davranışların modelin temel yapısına yerleşmesini sınırlandırıyor.

ZARARLI YANIT ORANI YÜZDE 8’E GERİLEDİ

Araştırma ekibi, geliştirdiği yöntemi tamamen zararlı soru ve yanıtlardan oluşan kullanıcı verileriyle de test etti. Bu uç senaryoda model, sürekli olarak manipülatif ve zararlı içeriklerle yeniden eğitildi. Deney sonuçlarına göre ince ayar yapılmamış orijinal modelde yüzde 18 olan zararlı yanıt üretme oranı, Buffer-and-Reinforce çerçevesi kullanıldığında yüzde 8’e kadar düştü. Bu güvenlik artışı sağlanırken ek bir güvenlik veri tabanına veya yüksek hesaplama gücüne ihtiyaç duyulmadı. Araştırmacılar, yöntemin mevcut yapay zeka sistemlerine düşük maliyetle uygulanabileceğini belirtti.

KURUMSAL VE BİREYSEL MODELLERDE KULLANILABİLİR

Çalışmanın lideri Profesör Changick Kim, geliştirilen çerçevenin şirketlerin ve bireysel kullanıcıların kendi hassas verileriyle güvenli yapay zeka modelleri oluşturmasına imkân sağlayabileceğini söyledi. Kim, “Bu araştırma, büyük ölçekli şirketlerden bireysel kullanıcılara kadar herkesin kendi hassas verileriyle tamamen güvenli ve kişiselleştirilmiş yapay zeka modelleri inşa etmesini sağlayacak temel bir altyapı sunuyor. Yapay zeka ajanlarının iş dünyasında yaygınlaşmayabaşladığı bu dönemde güvenilir ve veri sızıntısına karşı korunaklı bir hizmet ortamının kurulmasına katkı sunduk” dedi. Buffer-and-Reinforce çerçevesi, büyük dil modellerinin yeni görevleri öğrenirken mevcut güvenlik özelliklerini korumasını ve kişiselleştirilmiş yapay zeka sistemlerinin daha düşük maliyetle geliştirilmesini amaçlıyor.