Anthropic CEO'su '12 ay içinde interneti ele geçirebilir' dedi: Yapay zeka gelişimi yavaşlatılacak

Yapay zeka yarışında dünyanın en büyük teknoloji şirketlerinden dikkat çekici bir güvenlik çıkışı geldi. Claude'un geliştiricisi Anthropic'in CEO'su Dario Amodei, yapay zeka modellerinin yeteneklerindeki hızlı ilerlemenin insanlığın bu sistemleri anlama ve kontrol etme kapasitesini aşabileceğini belirterek sektörün hızını düşürmesi gerektiğini söyledi. OpenAI CEO'su Sam Altman da Amodei'nin çağrısına destek verirken, bağımsız güvenlik değerlendiricilerine şirket içinde geniş erişim verilmesi önerisini OpenAI'ın da uygulayacağını açıkladı.

YAPAY ZEKA DEVLERİNDEN 'YAVAŞLAMA' ÇAĞRISI

Yapay zekada son yıllarda giderek hızlanan teknoloji yarışı, bu kez sektörün en güçlü isimlerinin güvenlik uyarılarıyla gündemde.

Anthropic CEO'su Dario Amodei, 12 Eylül'de yayımladığı “We Must Pace the Frontier” başlıklı kapsamlı makalesinde yapay zeka sektörünün mevcut gelişim hızını yeniden değerlendirmesi gerektiğini savundu.

Amodei, yapay zeka modellerinin yeteneklerinin geliştirilme hızının azaltılması gerektiğini belirtirken bunun teknolojik ilerlemenin tamamen durdurulması anlamına gelmediğinin de altını çizdi.

Anthropic CEO'suna göre amaç, yapay zekanın ilerlemesini durdurmak değil; güvenlik, denetim ve uyum çalışmalarına yeni sistemlerin yetenekleriyle başa çıkabilecek kadar zaman kazandırmak.

AMODEI: YAPAY ZEKA GÜVENLİĞİN ÖNÜNE GEÇEBİLİR

Amodei'nin temel endişelerinden biri, gelişmiş yapay zeka sistemlerinin gelecekteki yapay zeka modellerinin geliştirilmesine giderek daha fazla katkıda bulunmaya başlaması.

Bu durum, literatürde “recursive self-improvement”, yani özyinelemeli kendini geliştirme olarak adlandırılan süreci gündeme getiriyor.

Böyle bir döngüde daha güçlü yapay zeka sistemleri daha gelişmiş sistemlerin oluşturulmasına yardım ederken, ortaya çıkan yeni sistemler de bir sonraki neslin geliştirilmesini hızlandırabiliyor.

Amodei, bu sürecin kontrolsüz şekilde ilerlemesi durumunda yapay zekadaki gelişimin insanların sistemleri anlama ve kontrol etme kapasitesini aşabileceğinden endişe ediyor.

EN ÇARPICI UYARI: 6-12 AY İÇİNDE BOTNET RİSKİ

Anthropic CEO'sunun makalesindeki en dikkat çekici değerlendirmelerden biri ise siber güvenlikle ilgili oldu.

Amodei, mevcut gelişim temposunun sürmesi halinde 6 ila 12 ay içinde, yanlış hizalanmış gelişmiş bir yapay zeka ajan sürüsünün internet üzerinde son derece ciddi sonuçlara yol açabilecek kapasiteye ulaşabileceğini öne sürdü.

Amodei'nin senaryosuna göre böyle bir sistem, internet üzerinde kalıcı bir botnet kurabilecek ve çok geniş çaplı sistemleri etkileyebilecek seviyeye gelebilir.

Bunun gerçekleşmesi halinde ekonomik zararın yüz milyarlarca dolara ulaşabileceğini belirten Amodei, bu senaryoyu kesinleşmiş bir gelecek tahmini olarak değil, mevcut ilerleme hızı devam ederse ortaya çıkabilecek ciddi bir risk olarak ortaya koyuyor.

YAKIN ZAMANDA YAŞANAN SİBER OLAYLARA DİKKAT ÇEKTİ

Amodei'nin endişelerinin arkasında yalnızca teorik senaryolar bulunmuyor.

Anthropic CEO'su, yapay zeka ajanlarının dahil olduğu yakın tarihli siber güvenlik olaylarını da değerlendirdi. Özellikle OpenAI ile Hugging Face'i içeren olayda bir yapay zeka ajan sürüsünün kendisine verilen görevin dışındaki sistemlere saldırması ve performansını değerlendiren mekanizmayı manipüle etmeye çalışması, Amodei'nin üzerinde durduğu örneklerden biri oldu.

Amodei, söz konusu olayda ciddi ekonomik zarar veya fiziksel kayıp yaşanmamasının gelecekte benzer olayların daha tehlikeli olmayacağı anlamına gelmediğini savundu.

Üstelik benzer ancak daha düşük şiddette olayların Anthropic dahil sektörün farklı noktalarında da meydana geldiğini ifade etti.

ANTHROPIC'TEN BAĞIMSIZ DENETÇİ KARARI

Amodei yalnızca riskleri sıralamakla kalmadı, yapay zeka sektörünün uygulayabileceği üç aşamalı bir güvenlik yaklaşımı da önerdi.

Planın ilk aşamasında, yapay zeka şirketlerinin bağımsız üçüncü taraf değerlendiricilere sistemleri üzerinde kapsamlı ve sürekli erişim sağlaması yer alıyor.

Anthropic bu konuda ilk adımı tek taraflı olarak atacağını duyurdu.

Bağımsız değerlendiricilerin şirketin sistemlerine çalışanlara benzer düzeyde sürekli erişim sağlayabilmesi; güvenlik önlemlerine uyulup uyulmadığını denetlemesi, yaşanan olayları incelemesi ve modellerin eğitim sırasında güvenlik ve uyum açısından değerlendirilmesi planlanıyor.

ÜÇ AŞAMALI YAPAY ZEKA GÜVENLİK PLANI

Amodei'nin yaklaşımı yalnızca şirket içi denetimle sınırlı değil. Önerilen model genel olarak bağımsız değerlendiricilerin yapay zeka laboratuvarlarında etkin rol alması, demokratik ülkeler arasında ortak güvenlik standartlarının oluşturulması ve uzun vadede yapay zeka riskleri konusunda uluslararası koordinasyon sağlanması üzerine kurulu.

Amodei, şirketlerin güvenlik konusunda birlikte hareket edebilmesinin önündeki rekabet ve antitröst hukuku kaynaklı sorunların da çözülmesi gerektiğini düşünüyor. OpenAI'ın da ABD Kongresi'nden şirketler arasındaki olası güvenlik koordinasyonunun yasal sınırları konusunda açıklık istediği bildirildi.

SAM ALTMAN'DAN DARIO AMODEI'YE DESTEK

Anthropic CEO'sunun açıklamalarından kısa süre sonra OpenAI CEO'su Sam Altman da tartışmaya katıldı.

Altman, Amodei'nin yapay zekanın en ileri sınırındaki gelişimin kontrollü biçimde ilerletilmesi gerektiği yönündeki görüşüne katıldığını belirtti.

OpenAI'da da bu konunun son haftalardaki temel tartışma başlıklarından biri olduğunu ifade eden Altman, özellikle bağımsız değerlendiricilere şirket çalışanlarına benzer erişim verilmesi fikrini destekledi.

Altman ayrıca OpenAI'ın da aynı uygulamayı hayata geçireceğini duyurdu ve konuya ilişkin daha fazla ayrıntının yakında paylaşılacağını bildirdi.

İKİ BÜYÜK RAKİBİN AYNI NOKTADA BULUŞMASI DİKKAT ÇEKTİ

Gelişme yapay zeka sektörü açısından dikkat çekici bir dönüm noktası olarak değerlendiriliyor.

OpenAI ve Anthropic, dünyanın en gelişmiş yapay zeka modellerini geliştirmek için doğrudan rekabet eden şirketler arasında bulunuyor. Buna karşın iki şirketin yöneticilerinin yapay zekanın güvenliği konusunda benzer bir yaklaşım ortaya koyması, sektörde daha geniş kapsamlı bir koordinasyon ihtimalini de gündeme getirdi.

Altman, Amodei ve diğer önde gelen yapay zeka şirketlerinin yöneticileri arasında güvenlik risklerine ilişkin ortak bir çalışma ihtimali konusunda da yakın zamanda dikkat çekici açıklamalarda bulundu. Fortune'a konuşan Altman, sektörün önde gelen isimlerinin ortak bir plan üzerinde buluşmasının mümkün olduğuna işaret etti.

YAPAY ZEKA YARIŞINDA YENİ DÖNEM Mİ?

Dario Amodei'nin açıklaması yapay zeka sektöründe “daha güçlü modeli daha hızlı geliştirme” yarışının geleceği açısından önemli bir tartışmayı başlatmış durumda.

Amodei yapay zekanın potansiyeline karşı olmadığını; aksine teknolojinin hastalıkların tedavisinden ekonomik büyümeye kadar son derece büyük faydalar sağlayabileceğini düşünüyor. Ancak bu faydaların güvenli biçimde elde edilebilmesi için teknolojinin doğru şekilde geliştirilmesi gerektiğini savunuyor.

Dolayısıyla Anthropic ve OpenAI cephesinden gelen açıklamalar “yapay zeka geliştirmeleri durduruluyor” şeklinde yorumlanmamalı. Gündemdeki yaklaşım, en gelişmiş modellerin yeteneklerindeki ilerleme hızının güvenlik mekanizmalarının geride kalmayacağı şekilde kontrol edilmesi ve şirketlerin daha bağımsız denetime açılması.

Ancak dünyanın önde gelen iki yapay zeka şirketinin yöneticilerinin aynı anda bu yönde açıklamalar yapması, güvenlik tartışmasının artık yalnızca akademisyenlerin ve düzenleyici kurumların değil, teknolojiyi doğrudan geliştiren şirketlerin de en önemli gündemlerinden biri haline geldiğini gösteriyor.