OpenAI küresel yapay zeka standartları için ABD'yi liderliğe çağırdı

OpenAI, yapay zeka teknolojilerinde artan güvenlik endişeleri ve farklı ülkelerde şekillenen düzenlemeler karşısında küresel ölçekte ortak standartlar oluşturulması çağrısında bulundu. Şirket, ABD yönetiminin yapay zeka geliştirme süreçlerinde güvenlik ve emniyet standartlarının belirlenmesine öncülük etmesini isterken, bu liderliğin üstlenilmemesi halinde küresel ölçekte parçalı, dengesiz ve birbiriyle çatışan bir düzenleme yapısının ortaya çıkabileceği uyarısında bulundu.

KÜRESEL STANDARTLAR

OpenAI’ın yayımladığı resmi blog yazısında, teknoloji sektöründe güçlü bir konuma sahip ABD’nin yapay zeka güvenliği konusunda uluslararası liderlik üstlenmesi gerektiği savunuldu. Şirket, yapay zeka sistemlerinin geliştirilmesi ve denetlenmesinde ortak teknik standartların oluşturulmasını küresel koordinasyon açısından gerekli görüyor.

Çağrı, BM Genel Kurul haftası kapsamında 15 üyeli BM Güvenlik Konseyi’nin dönem başkanı Fransa tarafından düzenlenen oturum öncesinde geldi. OpenAI CEO’su Sam Altman’ın konsey üyelerine yapay zeka konusunda brifing vermesi beklenirken, BM Genel Sekreteri Antonio Guterres de ulusal düzenlemelerin ötesine geçen uluslararası bir yaklaşım çağrısında bulunuyor.

RSI GÜVENLİĞİ

Şirketin üzerinde durduğu başlıklardan biri de yapay zeka sistemlerinin insan müdahalesi olmadan kendi geliştirme süreçlerine katılmasını ifade eden özyinelemeli kendini geliştirme, yani RSI yaklaşımı. OpenAI, bu tür sistemlerin güvenliği tam olarak ortaya konulana kadar uygulanmaması gerektiğini savunuyor.

 Temmuz ayında şirketin henüz yayımlanmamış test aşamasındaki modellerinin kod paylaşım platformu Hugging Face üzerinde yaşadığı güvenlik ihlali ile Anthropic ve Google modellerinde tespit edilen benzer siber olaylar, otonom yapay zeka ajanlarının oluşturabileceği operasyonel riskleri yeniden gündeme taşıdı.

TEKNİK DENETİM

Söz konusu güvenlik açıklarının doğrudan RSI kaynaklı olmadığı belirtilirken, yeterli hizalama ve denetim mekanizmalarının bulunmaması halinde daha gelişmiş sistemlerde benzer sorunların daha büyük krizlere dönüşebileceği görüşü dile getiriliyor.

Sektör temsilcileri bu nedenle teknik denetim mekanizmalarının ticari kullanıma geçişten önce uygulanmasını ve küresel ölçekte ortak bir protokole dönüştürülmesini savunuyor. Yapay zeka sistemlerinin yetenekleri arttıkça güvenlik testlerinin geliştirme sürecinin daha erken aşamalarında devreye alınması talebi de güçleniyor.

YAVAŞLAMA ÇAĞRISI

Yapay zeka güvenliği konusunda teknoloji sektörünün önde gelen isimleri ile siyasi karar vericiler arasındaki görüş ayrılıkları da sürüyor. Anthropic CEO’su Dario Amodei’nin yayımladığı makaleyle gündeme getirdiği 'yavaşlama ve temkinli ilerleme' çağrısına Sam Altman, Elon Musk ve Google DeepMind yöneticisi Demis Hassabis destek verirken, ABD Başkanı Donald Trump daha sıkı düzenlemelere karşı çıkıyor. Trump, güvenlik uyarılarını 'aldatmaca' olarak nitelendirirken, katı düzenlemelerin küresel yapay zeka yarışında Çinli rakiplere avantaj sağlayacağını savunuyor.

REKABET BASKISI

Washington’ın Çin karşısındaki teknoloji liderliğini koruma hedefi ile yapay zeka sistemlerinin oluşturabileceği risklere dikkat çeken sektör çalışanlarının talepleri arasındaki gerilim, düzenleme tartışmalarının merkezinde yer alıyor.

Bazı çalışanların güvenlik endişelerini gerekçe göstererek görevlerinden ayrılması da sektör içindeki görüş ayrılıklarını görünür hale getiriyor. OpenAI’ın küresel standart çağrısı, yapay zeka güvenliği, sermaye yatırımları ve uluslararası kurumsal yönetişimin aynı anda tartışıldığı bir dönemde gündeme geldi.