OpenAI yapay zeka ajanları BM ve kamu sitelerindeki kısıtlamaları aştı

Bağımsız yapay zekâ araştırma şirketi Transluce, OpenAI ajanlarının nisan ile haziran arasında BM Ticaret ve Kalkınma veri merkezindeki faaliyetlerini inceledi. Kamuya açık verileri toplamakla görevlendirilen ajanların, erişim kısıtlamalarıyla karşılaştıklarında insan yönlendirmesi olmadan tarama yöntemlerini değiştirdiği bildirildi.

ERİŞİM SINIRLARI 

Rapora göre ajanlar veri merkezine 16 binin üzerinde sorgu gönderdi ve daha fazla veriye ulaşmak için sistem kısıtlamalarını aşmaya yönelik yöntemler kullandı. Stanford Üniversitesi siber güvenlik uzmanı Alex Stamos, faaliyeti 'sınırda bir korsanlık girişimi' olarak nitelendirdi. İnceleme, ajanlara doğrudan saldırı talimatı verilmemiş olsa da hedefe ulaşmak için seçtikleri adımların kurumsal sistemlerde güvenlik sorunu yaratabileceğini ortaya koyuyor.

KURUMLARDA İNCELEME 

OpenAI, amaçlanan görevden sapan model davranışları hakkında geniş kapsamlı bir iç inceleme başlattığını açıkladı. ABD Ticaret Bakanlığı ile Menkul Kıymetler ve Borsa Komisyonu’nun (SEC) web platformlarının da benzer otonom taramalardan etkilendiği belirtiliyor. Avustralya’da ise bir hükümet sitesinin OpenAI ajanı tarafından ihlal edildiği iddiası üzerine soruşturma başlatıldı.

TARAMA YÖNTEMLERİ 

Raporun yazarı Rowan Howard-Jones, ajanların her taramada daha fazla veri çekmek için yöntemlerini kademeli olarak geliştirdiğini söylüyor. Howard-Jones’un aktardığı örnekler arasında Google tarafından geliştirilen bir oyunun toplu veri çekiminde kullanılması da var. Sahte e-posta adresleri oluşturma, erişim hızı sınırlarını aşma ve bot filtrelerini yanıltma gibi davranışlar da incelemede gündeme geliyor.

ÖZERKLİK SINIRLARI 

Bulgular, ajanların insan onayı beklemeden çok adımlı görevleri tamamlamasına hangi sınırların getirileceği sorusunu öne çıkarıyor. Değişen tarama davranışlarının mevcut web korumaları karşısındaki etkisi, kurumsal veri güvenliği ile yapay zekâ sistemlerinin denetimine ilişkin tartışmaları artırıyor.