Anthropic, yapay zeka güvenliği bağımsız denetim için Accenture ile anlaştı

Anthropic, gelişmiş yapay zeka modellerinin bağımsız kuruluşlar tarafından değerlendirilmesi ve güvenlik açıklarının daha sistematik biçimde incelenmesi amacıyla danışmanlık şirketi Accenture ile kapsamlı bir iş birliğine gitti. CEO Dario Amodei’nin üçüncü taraf denetimlerinin güçlendirilmesine yönelik açıklamaları doğrultusunda şekillenen program, Accenture’ın yapay zeka alanındaki uzman birimi Faculty tarafından yürütülecek. Çalışmalarda modellerin sistemik kusurlarını ve olası güvenlik açıklarını belirlemeye yönelik 'kırmızı takım' testleri ile bağımsız değerlendirmeler birlikte uygulanacak.

BEŞ YILLIK ORTAKLIK

Ortaklığın önümüzdeki beş yılda en az 1 milyar dolarlık finansman hacmine ulaşması öngörülüyor. Anthropic’in bu adımı, Amodei’nin 12 Eylül’de yayımladığı ve yapay zeka şirketlerinin model geliştirme hızını kontrol altında tutması gerektiğini savunduğu manifestodaki yaklaşımıyla da örtüşüyor. Şirket, gelişmiş modellerin yalnızca üreticilerin kendi iç güvenlik ekipleri tarafından değil, dışarıdan bağımsız kurumlarca da sınanmasını hedefliyor. OpenAI CEO’su Sam Altman da benzer dış erişim ve değerlendirme haklarını desteklediğini açıklarken, Microsoft CEO’su Satya Nadella kurum içi denetim mekanizmalarını olumlu karşılamakla birlikte değerlendirme süreçlerinin birkaç kuruluşun elinde yoğunlaşmaması gerektiği uyarısında bulunuyor.

KIRMIZI TAKIM TESTİ

Accenture bünyesinde yürütülecek çalışmaların önemli bölümünü, yapay zeka sistemlerinin olağan kullanım koşullarının dışına çıkarılarak güvenlik sınırlarının zorlandığı kırmızı takım testleri oluşturacak. Bu süreçlerde modellerin beklenmedik davranışları, sistemik açıkları ve kötüye kullanım ihtimalleri incelenecek. Anthropic, denetim mekanizmasının kısa sürede devreye alınmasını önemli gördüğü için Accenture tarafındaki çalışmaları ilk aşamada doğrudan finanse edeceğini bildiriyor. Şirket, daha uzun vadede ise bu tür bağımsız güvenlik değerlendirmelerinin ortak sanayi fonları veya kamu kaynaklarıyla desteklenmesi gerektiğini savunuyor.

METR GÖRÜŞMELERİ

Anthropic, değerlendirme sürecinin başka bir ayağında yer alması için Kaliforniya merkezli kâr amacı gütmeyen Model Evaluation and Threat Research (METR) kuruluşuyla da görüşmelerini sürdürüyor. Kuruluşun bağımsızlığı ise sektörde tartışma konusu. Eski Beyaz Saray yapay zeka danışmanı David Sacks gibi bazı isimler, yatırımcı ve çalışan bağlantıları nedeniyle METR’in tarafsızlığını sorgularken kuruluş, yapay zeka şirketlerinden veya bu şirketlerin yöneticilerinden finansman kabul etmediğini ve çalışmalarını bağımsız biçimde yürüttüğünü belirtiyor.

BAĞIMSIZ DENETİM

Kurumsal denetim çalışmalarının hızlandığı dönemde, Geoffrey Hinton’ın da aralarında bulunduğu 100’den fazla akademisyen ve araştırmacı yayımladıkları açık mektupla yapay zeka değerlendirmelerinin “anlamlı derecede bağımsız” biçimde yürütülmesi gerektiğini savundu. Araştırmacılar, denetçi kuruluşların yapay zeka şirketlerinin mülkiyetinde veya yönetiminde bulunmaması, bu şirketlerle önemli ticari bağlara sahip olmaması ve ulaştıkları bulgular üzerinden finansal ödül almaması gerektiğini belirtti. Açık mektupta, bağımsızlığın yalnızca kurumsal yapı açısından değil, finansman ve karar alma mekanizmaları bakımından da güvence altına alınması gerektiği vurgulanıyor.

DENETİM EKOSİSTEMİ

Anthropic ile Accenture arasındaki beş yıllık anlaşma, gelişmiş yapay zeka modellerinin güvenlik değerlendirmelerinin ayrı bir uzmanlık alanı olarak kurumsallaşmasına yönelik adımlardan biri olarak öne çıkıyor. Kırmızı takım testleri, bağımsız değerlendirme kuruluşları ve farklı finansman modellerinin aynı çerçevede ele alınması, sektörün geliştirme hızının yanı sıra denetim kapasitesini de büyütmeye yöneldiğini gösteriyor. Bağımsızlık standartlarının nasıl tanımlanacağı, denetim kuruluşlarının nasıl finanse edileceği ve bu yapıların yapay zeka şirketleriyle hangi mesafede çalışacağı ise önümüzdeki dönemin temel tartışma başlıkları arasında yer alacak.