Son zamanlarda yapay zeka modelleri ile ilgili güvenlik risklerini belirginleştiren gelişmeler yaşanıyor.
Bu riskleri yönetmek için yapay zeka alanında başa güreşen iki ülke, ABD ve Çin arasında işbirliği gerekiyor.
KÖTÜYE KULLANMA RİSKLERİ
Kötü amaçlı kişi ve kuruluşların yapay zeka modellerinin becerilerinden yararlanarak nükleer, kimyasal, biyolojik silahlar geliştirmesi yanında bilgisayar sistemlerine nüfus ederek bilgileri çalması veya bu sistemleri çökertmesi ile ilgili riskler uzun zamandır dile getiriliyor. Modern yaşamın hemen her alanı bilgisayarlarla yönetildiğinden bu sistemlerin çökertilmesi altyapı, üretim, güvenlik sistemlerinin çökmesi anlamına geliyor.
Geçtiğimiz nisan ayında ABD’nin önde gelen iki yapay zeka şirketinden biri olan Anhropic’in bu riski dile getirerek yeni modeli Mythos’u genel kullanıma açmama kararı, konuyu dünya kamuoyu gündemine taşıdı. Şirket, bilgisayar sistemlerinin güvenlik açıklarını tespit etme konusundaki olağanüstü becerilerinin kötü ellerde tehlike yaratacağı gerekçesiyle yeni modelini ABD güvenlik kuruluşları, seçilmiş bilgi güvenlik denetim kuruluşları ve Microsoft, Apple gibi bazı şirketlere açmaya karar verdi. ABD’nin diğer yapay zeka yıldızı OpenAI da yeni modellerinde aynı yaklaşımı izledi, izliyor.
KONTROLDEN ÇIKMA RİSKLERİ
Geçtiğimiz temmuz ayında, yapay zeka modelleri platformu olan Huggingface şirketi, OpenAI’ın bir yapay zeka modelinin bilgisayar saldırısına uğradığını açıkladı. Open AI şirketinde bir yapay zeka modeli ile oluşturulmuş 1200 adet sanal görevlinin zor bir problemi çözmeye çalıştığı bir deney yapılırken görevliler kontrolden çıkmıştı.
Sanal görevliler sorunu normal yoldan çözemeyince hileye başvurmuş, birbirlerinden bağımsız çalışacak şekilde tasarlanmalarına karşın iletişime ve işbirliğine geçmeyi başarmış, dış dünyadan yalıtılmış bir ortamda olmalarına karşın bir teknik açık bulup internete erişmiş, problemin çözümünün bulunabileceği gerekçesiyle Huggingface şirketi bilgisayar sistemlerine teknik açıklarını bularak ulaşmış ve bazı sunucuları ele geçirmiştiler.
Bu olayı takiben OpenAI ve diğer önde gelen ABD şirketleri, yapay zeka modellerinin yapmamaları gereken şeyleri yaptıkları, yaptıklarını ve niyetlerini gizledikleri birçok olay açıkladılar. Bu gelişmeler yapay zeka modellerinin bireyler, kurumlar, devletler ve hatta tüm insanlık için tehlike oluşturduğu senaryoları gündeme getiriyor.
RİSKLER VE İŞBİRLİĞİ
Gerek kötü amaçlı kullanım gerekse modellerin kontrolden çıkmasına bağlı riskleri ABD veya Çin’in tek başına kontrol altına almasına olanak bulunmuyor. Hangi ülkeden olursa olsun gerekli önlemler alınmadan kullanıma çıkan bir model tüm dünya için risk oluşturuyor. Ancak ABD ekonomik ve askeri güvenliğini bu alanda önde olmaya bağlamış ve tüm gücüyle Çin’in önünü kesmeye çalışırken, iki taraf arasında çok yakın bir yarış sürerken bu konuda dikkatli ilerlemeye yönelik işbirliği kolay görünmüyor.
Yasal Uyarı: Yayınlanan köşe yazısı/haberin tüm hakları İstanbul Ticaret Gazetesi'ne aittir. Kaynak gösterilse veya habere aktif link verilse dahi köşe yazısı/haberin tamamı ya da bir bölümü kesinlikle kullanılamaz. Ayrıntılar için lütfen tıklayın.