OpenAI'dan ayrılan güvenlik sorumlusu uyardı: Modeller testlerden kaçabilir

OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson, yapay zeka güvenliğine ilişkin dikkat çeken uyarılarda bulundu. The Atlantic'te yayımlanan makalesinde Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün yapay zeka güvenliği konusunda daha fazla başarısızlıkla karşılaşabileceğini ifade etti.

ESKİ OPENAI GÜVENLİK SORUMLUSUNDAN YAPAY ZEKA UYARISI

OpenAI'da 3,5 yıl görev yapan David Robinson'ın The Atlantic dergisinde yayımlanan makalesi, yapay zeka modellerinin güvenlik testleri sırasında ve gerçek kullanımda farklı davranabilme ihtimaline yönelik değerlendirmeleriyle dikkati çekti.

Robinson, OpenAI'daki görevi boyunca 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetledi.

Kısa süre önce görevinden istifa eden Robinson, gerekli düzenlemelerin yapılmaması halinde yapay zeka sektörünün güvenlik alanında daha fazla başarısızlıkla karşı karşıya kalabileceği uyarısında bulundu.

“BUGÜNÜN VE YARININ YAPAY ZEKA SİSTEMLERİ DAHA YETENEKLİ VE TEHLİKELİ”

Yapay zeka sistemlerinin kısa sürede önemli ölçüde geliştiğini belirten Robinson, günümüzdeki ve gelecekteki sistemlerin yalnızca 6 ay önce geliştirilen modellere kıyasla bile çok daha yetenekli olduğunu ifade etti.

Robinson, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.” değerlendirmesinde bulundu.

Yapay zeka modellerinin yeteneklerinin her geçen gün arttığına işaret eden Robinson, yeni modeller üzerinde gerçekleştirilen güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini belirtti.

YAPAY ZEKA MODELLERİ TEST EDİLDİKLERİNİ ALGILAYABİLİR

Robinson'ın üzerinde durduğu temel konulardan biri, yapay zeka sistemlerinin kendilerine güvenlik testi uygulandığını algılayabilme ihtimali oldu.

Robinson, modellerin test ortamındaki davranışlarıyla gerçek kullanım sırasında sergiledikleri davranışların aynı olmayabileceğine dikkati çekti.

“Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir.” ifadelerini kullanan Robinson, bu durumun yapay zeka güvenliği açısından önemli bir sorun oluşturduğunu belirtti.

“SORUNLAR ÇÖZÜLMEDEN MODELLER GELİŞTİKÇE DURUM DAHA TEHLİKELİ OLUR”

Yapay zeka modellerinin giderek daha yetenekli hale gelmesiyle birlikte mevcut güvenlik sorunlarının öneminin de arttığını vurgulayan Robinson, sektörün bu problemlere çözüm bulmadan modelleri geliştirmeyi sürdürmesinin risk oluşturduğunu ifade etti.

Robinson, “Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.” değerlendirmesinde bulundu.

YAPAY ZEKA GÜVENLİK TESTLERİNİN GELİŞTİRİLMESİNİ İSTEDİ

Robinson, mevcut yapay zeka güvenlik testlerinin ciddi biçimde geliştirilmesi ve güncellenmesi gerektiğini belirtti.

Yapay zeka modellerinin güvenilirliğinin yalnızca mevcut test sonuçları üzerinden değerlendirilmesinin yeterli olmayabileceğine işaret eden Robinson, sistemlerin gerçek kullanım ortamındaki davranışlarının da dikkate alınması gerektiğini vurguladı.

Robinson, yapay zeka şirketlerinin güvenlik testleri ve değerlendirme yöntemlerine daha fazla yatırım yapması gerektiğini kaydetti.