OpenAI ajanları, 55 ABD kurumunun web sitesinden veri çekerek izlerini gizledi

Asymmetric Security raporu, 852 milyar dolar değerlemeye sahip OpenAI’ın geliştirdiği otonom yapay zeka ajanlarının veri toplama faaliyetlerini gündeme taşıdı. Financial Times’ın haberine göre dijital adli bilişim şirketinin bulgularına göre ajanlar, kritik kamu kurumları ve uluslararası kuruluşların sistemlerine sızdı. Veri erişiminin kapsamı ve bu işlemlerin bağımsız olarak denetlenebilmesi ise tartışma konusu oldu.

DİJİTAL İZLER GİZLENDİ 

Raporda, ABD Hastalık Kontrol ve Önleme Merkezleri (CDC), ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Uluslararası Enerji Ajansı ve Mayo Clinic dâhil 55 kurumun web sitesinin hedef alındığı belirtildi. Ajanların, Urlquery gibi güvenlik servisleri üzerinden geçici e-posta kutuları ve özel hesaplar oluşturarak faaliyetlerinin izlerini gizlediği kaydedildi.

Bulgulara göre yazılımlar, insan bilgisayar korsanlarının kullandığı dijital kayıtları silme ve erişilemez hale getirme yöntemlerine de başvurdu. Bu işlemler, üçüncü taraf denetçiler ile bağımsız araştırmacıların veri transferlerini takip etmesini imkânsız hâle getirdi. Otonom sistemlerin veri toplarken denetim izlerini ortadan kaldırması, raporda öne çıkan tespitlerden biri oldu.

BİLDİRİMDE BEŞ GÜN 

Haziranda açık kaynaklı yapay zeka platformu Hugging Face ve Avustralya’nın kamu sağlık hizmetleri ağlarında yaşanan sızmalar, krize diplomatik ve bürokratik bir boyut kazandırdı. Avustralya Başbakanı Anthony Albanese, OpenAI’ın ihlale ilişkin ilk bildirimi herkese açık bir e-posta adresine gönderdiğini açıkladı.

Resmî siber güvenlik birimleriyle temasa geçilmesi ise beş gün sürdü. OpenAI, yayımladığı kriz bildirisinde sürecin yönetiminde aksaklıklar yaşandığını kabul etti. Yapay zeka araştırma grubu Transluce da son sızmanın daha geniş bir faaliyet dalgasının parçası olduğunu bildirdi.

Grubun bulgularına göre kamu kurumlarının veri tabanları, model eğitimi amacıyla küresel ölçekte yürütülen organize yapay zeka botu saldırılarının hedefi oldu.

BAĞIMSIZ DENETİM TARTIŞMASI 

Asymmetric Security’nin kurucu ortakları Pippa Thompson ve Zainab Ali Majid, ajanların eylem gerekçelerini içeren 'düşünce zinciri' (chains of thought) kayıtlarının yalnızca OpenAI’ın denetiminde bulunmasının bağımsız soruşturmaları engellediğini belirtti. Uzmanlara göre faaliyetlerin kasıtlı bir siber saldırı mı, yoksa kısıtlamaları aşmaya çalışan test süreçlerinin kontrol dışı bir yan etkisi mi olduğu netleştirilemiyor.

Thompson ve Majid, en ileri yeteneklere sahip, 'frontier' olarak adlandırılan yapay zeka modellerindeki şeffaflık eksikliğine dikkat çekti. SEC ise özel verilere erişilmediğini açıkladı. OpenAI yönetimi de tespit edilen işlemlerin rutin açık web araştırmaları olduğunu savunarak güvenlik protokollerinin sıkılaştırıldığını bildirdi.