Bir zamanlar ancak bilim kurgu ürünlerine konu olabilecek yapay zeka sistemlerinin kontrolden çıkıp insanlık için olumsuz gelişmelere yol açması riski sektörün liderleri, bilim insanları ve politika yapıcıların gündemine girmiş bulunuyor.
YAPAY ZEKA, YAPAY GENEL ZEKA, YAPAY SÜPER ZEKA
Sadece birkaç yıl önce ortaya çıkmalarına karşın Yapay Zeka Büyük Dil Modelleri, birçok zihinsel işi insanlardan daha iyi, daha hızlı, daha ucuza gerçekleştirebiliyor. Ancak bunlar, eğitim denen hazırlanma süreçlerinde kullanılan bilgilerin dışına çıkamıyor, yeni alanlara atlayamıyor; dünya ile etkileşimlerinden yararlanıp bilgi ve becerilerini artıramıyor, yeni bakış açıları geliştiremiyor; bazen de bilgilerindeki eksiklikleri ‘hayal gücü’ ile dolduruveriyorlar. Konunun uzmanlarının genel kanısı, bu kısıtların 5, bilemediniz 10 yıl içinde aşılacağı yönünde.
Bu, insan zihni gibi işleyen, her alanda en iyi insandan aşağı kalmayan, gelişebilen yapay zeka, yani Yapay Genel Zeka’ya ulaşılması demek oluyor.
Bu eşik aşıldıktan sonra da modellerin hızla kendilerini geliştirmeleri, hatta daha iyi yeni modeller üretmeleriyle her alanda en iyi insandan daha iyi olan, giderek de arayı daha açan Yapay Süper Zeka sistemlerinin ortaya çıkması neredeyse kaçınılmaz oluyor. Bu, bilgi işlem sistemlerinin aynı anda çok sayıda işlem yapma ve ağ üzerinden etkileşme kapasiteleri nedeniyle bir dahi ordusunun ortaya çıkması olarak düşünülebilir.
BÜYÜK RİSKLER VE BÜYÜK GÜÇ MÜCADELESİ
Böyle bir dahi ordusu insanlık için çok büyük fırsatlar sunabilir ama kontrolden çıkıp kendi amaçlarına yönelirse sonuç bir felaket de olabilir. Bu konuda çalışan bilim insanları, bu tür sistemlerin geliştirilme aşamasında temellerine olumsuz faaliyetlerde bulunmalarını önleyecek mekanizmaların yerleştirilmesi, eğilimlerinin izlenmesi, olumsuz gelişmeler görüldüğünde devreye girecek mekanizmaların geliştirilmesi, kontrollü bir şekilde ilerlenmesi gerektiğini belirtiyorlar. Bu tedbirlerin, böyle sistemler geliştirme kapasitesi olan iki güç, ABD ve Çin’in işbirliği ile alınması gerekiyor; hangi ülkede olursa olsun kontrolden çıkmış bir Yapay Süper Zeka sistemi tüm dünya için risk oluşturuyor.
Ancak bu işin bir de büyük güç mücadelesi boyutu var. Böyle bir dahi ordusunu ortaya çıkaran ilk ülkenin, bu orduyu kontrol edebildiği varsayımı ile rakibine karşı ezici bir üstünlük sağlaması, esas olarak mücadeleyi kazanması söz konusu. Trump yönetimi yetkilileri, Çin’e karşı yürütülen teknoloji savaşının ana hedefinin Yapay Genel Zeka kapasitesine önce ulaşmak olduğunu vurguluyorlar. Bu doğrultuda Biden döneminde alınan risk kontrolüne yönelik bazı düzenlemeler de gelişmeyi hızlandırmak için yürürlükten kaldırılmış bulunuyor.
Bir konuda bir yandan ölüm kalım mücadelesi içinde olup bir yandan da işbirliği yapılması mümkün görünmüyor. Nasıl olacak bilinmez ama jeopolitik üstünlük mücadelesinin bu alandaki riskler ve fırsatların yanında önemsiz kaldığının görülmesi gerekiyor.