Silinen yapay zeka sohbetleri telefon belleğinden geri getirildi

Georgia Teknoloji Enstitüsü Siber Adli Bilişim İnovasyon Laboratuvarı araştırmacıları, yerel yapay zeka asistanlarında sohbet geçmişinin silinmesinin, görüşmeye ait bütün verileri cihaz belleğinden temizlemediğini ortaya koydu. IEEE Güvenlik ve Gizlilik Sempozyumu’nda sunulan çalışmada, Android cihazlarda doğrudan çalışan büyük dil modelleriyle yapılan görüşmelerin parçalarının rastgele erişimli bellekte (RAM) kalabildiği belirlendi.

Doktora öğrencisi Ken Xu liderliğindeki ekip, bu kalıntıları incelemek için “ORISA” adlı bellek adli bilişim aracını geliştirdi. Araç, RAM’de bulunan sohbet parçalarını bir araya getirerek kurtarılan bağlamı, adli bilişim uzmanlarının doğrudan soru yöneltebildiği çalışan bir yapay zeka oturumuna aktarıyor.

SİLİNEN OTURUM YENİDEN OLUŞTURULDU

Araştırmacılar, sistemin kapasitesini ölçmek için ChatterUI adlı Android arayüzünde kurgusal bir proje asistanı oluşturdu. Modele 100 hayali bilgi verildikten sonra görüşme geçmişinin tamamı silindi. Ardından ORISA, cihazın geçici belleğini tarayarak sohbet kalıntılarını kurtardı ve yeniden oluşturduğu oturumda 26 ayrı bilgi maddesini eksiksiz listeledi.

Orijinal oturum ise sohbetin bir bölümünün aktif bağlam penceresi dışında kalması nedeniyle, silinmeden hemen önce yalnızca 14 bilgiye erişebiliyordu. Deney, modelin aktif kullanımından çıkmış bazı bağlamların da cihaz belleğinde bulunabildiğini gösterdi.

60 TESTİN TAMAMINDA VERİ KURTARILDI

ORISA, farklı mimarilere sahip 10 popüler Android uygulaması ve üç açık kaynaklı yapay zeka modeli üzerinde denendi. Gerçekleştirilen 60 test senaryosunun tamamında, bellekte iz bırakan kullanıcı komutları ve model yanıtları geri getirildi.

Çalışmada, telefonun diğer işlemleri aynı bellek alanlarına yeni veri yazmadığı sürece sohbet kalıntılarının korunabildiği belirlendi. Dolayısıyla uygulama üzerinden geçmişin silinmesi, RAM’deki bütün izlerin aynı anda ortadan kalkması anlamına gelmiyor.

YEREL YAPAY ZEKADA GİZLİLİK SINIRI

Verileri harici bulut sunucularına göndermeden cihaz üzerinde işleyen yerel büyük dil modelleri, kullanıcı mahremiyetini koruma vaadiyle yaygınlaşıyor. Araştırma, bu yaklaşımın cihazın kendi belleğinde kalan veriler açısından teknik sınırları bulunduğunu ortaya koyuyor.

ORISA’nın, adli bilişim uzmanlarına suç soruşturmalarında yerel asistanlarla yapılan bilgi alışverişini inceleme imkanı sunması bekleniyor. Kurtarılan bağlamın sorgulanabilir bir oturuma dönüştürülmesi ise silinmiş konuşmaların yalnızca metin parçaları halinde okunmasının ötesinde değerlendirilmesini sağlıyor.