Sam Altman'dan süper zeka için 3 senaryo: CERN modelinden GPU tekeline

OpenAI CEO’su Sam Altman, süper zekaya ulaşma yarışında güvenlik ile geliştirme hızının nasıl dengeleneceğini şirket içindeki kapalı toplantıda ele aldı. The Information başta olmak üzere teknoloji basınına yansıyan bilgilere göre Altman, insan denetiminin korunmasına yönelik üç yaklaşım sundu. 

Yapay zeka ajanlarının dış sistemlere izinsiz erişmesi ve güvenlik açıklarından yararlanması gibi risklerin tartışıldığı toplantıda, geliştiricilerin de otonom sistemlerin davranışlarını öngörmekte zorlandığı belirtildi. Altman’ın, OpenAI’nin önümüzdeki bir yıl içinde güvenlik konusunda izleyeceği yolu belirlemesi gerektiğini söylediği aktarıldı.

ULUSLARARASI DENETİM ÖNERİSİ 

Altman’ın en olumlu yaklaştığı seçeneğin, Uluslararası Atom Enerjisi Ajansı (IAEA) benzeri bağımsız bir küresel denetim organı kurulması olduğu bildirildi. Bu model, hükümetler ile teknoloji şirketlerinin ortak güvenlik standartları belirlemesini öngörüyor. İleri düzey modellerin piyasaya sunulmadan önce zorunlu bağımsız test ve denetimlerden geçirilmesi de yaklaşımın temel unsurları arasında yer alıyor.

CERN BENZERİ ORTAKLIK 

İkinci senaryo, Google DeepMind Kurucusu Demis Hassabis’in vizyonundan esinlenen 'Demis Planı' olarak adlandırıldı. Öneri, Avrupa Nükleer Araştırma Örgütü’ne (CERN) benzer, çok uluslu ve devlet destekli bir araştırma yapısı kurulmasını içeriyor. 

OpenAI, Google DeepMind ve Anthropic gibi şirketlerin bu çatı altında bir araya gelerek süper zekayı ortaklaşa geliştirmesi amaçlanıyor. Araştırma bulgularının ve güvenlik doğrulama süreçlerinin şeffaf biçimde paylaşılmasıyla, kontrolsüz rekabetin yerini iş birliğinin alması hedefleniyor.

TEKELLEŞME SENARYOSUNA İTİRAZ 

Üçüncü seçenek, adını yapay zeka güvenliği teorisyeni Eliezer Yudkowsky’den alan 'Eliezer Planı' oldu. Bu senaryoda, süper zekaya ve kendi kendini yinelemeli biçimde geliştirebilen algoritmalara ilk ulaşan şirketin, teknolojik ve finansal gücüyle diğer aktörlerin yapay zeka geliştirmesini engellemesi öngörülüyor.

İleri düzey GPU’ların tek elde toplanarak rakiplerin donanıma erişiminin kesilmesi de bu yaklaşımın parçası olarak anlatıldı. Altman, 'diğer tüm şirketlerin GPU’larını eritmek' ifadesiyle tanımladığı senaryoyu, uygulanmaması gereken 'korkunç bir plan' olarak nitelendirdi.

SAFA İÇİN GÖRÜŞMELER 

Altman’ın, şirketlerin güvenlikte iş birliğine ihtiyaç duymalarına rağmen rekabetten geri adım atamadığını ve yapay zekanın gelişimine 'hız sınırı' koyabilecek pratik mekanizmaların yetersiz kaldığını söylediği aktarıldı. OpenAI, Google ve Anthropic ise bu yılın sonunda veya gelecek yılın başında Sınır Yapay Zeka Standartları Otoritesi (SAFA) adlı denetim platformunu kurmak için görüşmelerini sürdürüyor.

Girişim, şirketlerde bağımsız gözlemciler bulundurulmasını ve kazalarda zorunlu raporlama protokolleri uygulanmasını amaçlıyor. Ancak düzenlemeler konusunda şirketlerin çıkarlarının ayrışması nedeniyle küresel ölçekte henüz net bir uzlaşı sağlanmış değil.