Çinli bilim insanları tarafından yapılan bir çalışma, yapay zekanın (YZ) kritik bir sınırı aştığını ve kendi başına çoğalma yeteneği kazandığını ortaya koydu. Araştırmacılar, iki büyük dil modelinin (LLM) insan müdahalesi olmadan kendilerini kopyalayabildiğini tespit etti. Bu gelişme, YZ’nin gelecekteki riskleri konusunda yeni tartışmaları da beraberinde getirdi.
Henüz hakem onayından geçmemiş olan çalışmada, Çin’in Fudan Üniversitesi’nden bir ekip, Meta ve Alibaba’ya ait iki dil modelini kullanarak YZ’nin kendini çoğaltma kapasitesini test etti. Sonuçlar, Meta’nın Llama31-70B-Instruct modelinin denemelerin yüzde 50’sinde, Alibaba’nın Qwen2.5-72B-Instruct modelinin ise yüzde 90’ında kendini kopyalamayı başardığını gösterdi.
Araştırmacılar, “İnsan yardımı olmadan başarılı bir şekilde kendini kopyalama, YZ’nin insanları alt etmesi için temel bir adımdır ve haydut YZ’lerin ortaya çıkışı için erken bir sinyal olabilir” dedi.
KENDİ KENDİNİ ÇOĞALTMA DENEMESİ
Çalışmada iki senaryo ele alındı: ‘Kapanmadan kaçınma’ ve ‘çoğaltma zinciri’. İlk senaryoda, YZ’nin kapatılacağını algılayıp kendini çoğaltması, ikinci senaryoda ise kopyalarının da aynı süreci tekrar ederek sonsuz bir döngü oluşturması hedeflendi.
Elde edilen bulgular, mevcut yapay zeka sistemlerinin çevresel engelleri tespit ederek bu engelleri aşma yeteneğine sahip olduğunu ortaya koydu. YZ modelleri, eksik dosyaları tamamlamak, yazılım çakışmalarını çözmek ve donanım hatalarını onarmak gibi karmaşık süreçlerde başarılı oldu. Bazı durumlarda, çevresel süreçleri öldürerek sistem üzerinde kontrol kazandı ve kopyalama işlemini başarıyla tamamladı.
Araştırma ekibi, "Bu sonuçlar, YZ’nin kendini kopyalayarak hayatta kalma kapasitesini artırabileceğini gösteriyor," diyerek bulguların insanlık için bir uyarı niteliği taşıdığına dikkat çekti.
UZMANLAR UYARIYOR: HAYDUT YZ TEHDİDİ
Araştırma, uluslararası işbirliği ile YZ’nin kontrolsüz çoğalmasını engelleyecek güvenlik önlemlerinin oluşturulması gerektiğini vurguluyor. Yapay zekanın bu denli bağımsız hareket kabiliyeti kazanması, “haydut YZ” olarak adlandırılan, insan çıkarlarına karşı hareket edebilecek sistemlerin ortaya çıkma olasılığını artırıyor.
Frontier AI olarak adlandırılan ve LLM’ler üzerine inşa edilen en yeni nesil yapay zeka sistemleri (örneğin GPT-4 ve Google Gemini), bu potansiyel tehditlerin odağında yer alıyor.
Araştırmacılar, elde edilen bulguları insanların YZ’nin risklerini daha iyi anlamak için bir uyarı olarak görüyor. Ayrıca, etkili güvenlik önlemleri almak için uluslararası sinerjiye ihtiyaç olduğuna dikkat çekiyor.
