Google ve DeepMind’dan AGI için yeni denetim çerçevesi

Google ve Google DeepMind, yapay genel zekaya ilişkin teknik ve sosyo-ekonomik tartışmaları akademik bir çerçevede ele almak amacıyla DeepMind Enstitüsü’nün kuruluşunu duyurdu. Shane Legg, James Manyika ve Demis Hassabis öncülüğünde faaliyete geçen yapı; AGI’nin ekonomik etkilerindeninsan refahına, model şeffaflığından güvenlik standartlarına kadar uzanan geniş bir alanda araştırma yürütmeyi hedefliyor. Küresel araştırma topluluğuyla iş birliği içinde çalışması planlanan enstitünün ilk yayınlarında, derin yapay zeka sistemlerinin karar süreçlerinin daha izlenebilir hale getirilmesine yönelik teknik denetim yöntemleri dikkat çekiyor.

AGI YÖNETİŞİMİ

Enstitünün çalışmalarında, kara kutu niteliğindeki gelişmiş yapay zeka mimarilerinin “opak seri derinliğinin” sınırlandırılması ve karar alma süreçlerinin daha şeffaf hale getirilmesi üzerinde duruluyor. Bu yaklaşım, geliştiriciler ile düzenleyici kurumların model davranışlarını daha ayrıntılı biçimde inceleyebilmesini amaçlıyor. Google ve Google DeepMind, AGI sistemlerinin yalnızca teknik performans üzerinden değil, ekonomik ve toplumsal etkileriyle birlikte değerlendirilmesi gerektiğini savunurken, araştırmaların gelecekte geliştirilecek yönetişim ve güvenlik standartlarına temel oluşturmasını hedefliyor.

BAĞIMSIZ TESTLER

Google DeepMind Başkanı Demis Hassabis tarafından açıklanan politika çerçevesi, öncü yapay zeka modellerinin piyasaya sürülmeden önce bağımsız bir standartlar kuruluşu tarafından değerlendirilmesini öngörüyor. ABD öncülüğünde kurulması önerilen yapının ilk aşamada 30 günlük gönüllü inceleme süreçleriyle çalışması planlanıyor. Laboratuvarların modellerini bilinen testlere göre özel olarak optimize etmesini önlemek amacıyla bağımsız ve önceden açıklanmayan “gizli testlerin” kullanılması da öneriler arasında yer alıyor. Güvenlik risklerinin artması halinde bu denetimlerin zorunlu hale getirilmesi ve AGI geliştirme süreçlerinde koordineli bir yavaşlamaya gidilmesi de olası tedbirler arasında değerlendiriliyor.

GÜVENLİK ÇERÇEVESİ

Yapay zeka güvenliği tartışmalarında şeffaflık, dış denetim ve geliştirme hızının gerektiğinde düşürülmesi gibi daha somut mekanizmalar öne çıkmaya başlıyor. Anthropic CEO’su Dario Amodei’nin yapay zeka geliştirme hızının güvenlik gerekçeleriyle ayarlanmasına yönelik çağrıları da bu tartışmanın önemli başlıklarından biri olarak gündemde bulunuyor. DeepMind Enstitüsü’nün önerdiği yapı ise öncü modellerin pazara çıkmadan önce bağımsız değerlendirmeden geçirilmesini, risklerin ortak standartlarla ölçülmesini ve gerektiğinde geliştiriciler arasında koordinasyon kurulmasını esas alıyor.

KÜRESEL STANDARTLAR

Google ve Google DeepMind’ın geliştirdiği çerçeve, AGI alanında ortak test yöntemleri ve uluslararası güvenlik standartları oluşturulmasına yönelik daha kurumsal bir yaklaşım ortaya koyuyor. Model şeffaflığı, dış denetim ve önceden tanımlanmış güvenlik eşikleri, gelecekte yapay zeka şirketlerinin Ar-Ge ve ürün geliştirme süreçlerinde daha fazla yer tutabilecek başlıklar arasında gösteriliyor. DeepMind Enstitüsü de bu süreçte teknik araştırmalar ile kamu politikaları arasında bağlantı kurarak yapay genel zekaya ilişkin küresel yönetişim çalışmalarına katkı sağlamayı hedefliyor.