Yapay zeka araştırmalarında otomasyon ve zeka patlaması riski

OpenAI, Anthropic, Meta ve Microsoft’un üst düzey araştırma yöneticileri ile alanın önde gelen bilim insanları, yapay zekâ araştırmalarında artan otomasyonun risklerini ortak bir makalede ele aldı. WSJ'nin haberine göre, Çalışmayı kişisel görüşleri doğrultusunda kaleme alan araştırmacılar, şirketlerin model geliştirme süreçlerini giderek daha fazla yapay zekâya devretmesinin insan denetimini zorlaştırabileceğini belirterek kamu otoritelerini tedbir almaya çağırdı.

OTOMASYONDA KONTROL RİSKİ 

WSJ'nin haberine göre, makalenin yazarları arasında OpenAI Baş Bilim İnsanı Jakub Pachocki, Anthropic Kurucu Ortağı Jack Clark, Microsoft Bilimden Sorumlu Başkan Eric Horvitz ve Meta Yapay Zekâ Araştırmaları Başkan Yardımcısı Dawn Song ile Geoffrey Hinton ve Yoshua Bengio yer alıyor. Araştırmacılara göre şirketlerin kendi model geliştirme ve Ar-Ge faaliyetlerini otomatikleştirmesi, kontrolsüz bir 'zekâ patlamasını' tetikleyebilir.

Yıllar alacak teknolojik ilerlemelerin aylara, hatta haftalara sığması mümkün. Uzmanlar, bu hızın insanların gelişmeleri kavrama kapasitesini aşabileceği uyarısında bulunurken şirketlerin iç araştırmalarında ne ölçüde otomasyon kullandığını açıklamasını sağlayacak resmî şeffaflık standartlarının gerekli olduğunu vurguluyor.

ARAŞTIRMADA AJAN KULLANIMI 

Kendi kendini geliştiren ve kod yazan otonom sistemlerde ticari rekabet sürerken şirketlerin araştırma süreçlerindeki otomasyon oranları da yükseliyor. Anthropic’in paylaştığı verilere göre Claude, şirketin Ar-Ge faaliyetlerinin yüzde 26’sını doğrudan üstleniyor. Belirli teknik alanlarda bu oran yüzde 90’ı aşıyor. OpenAI ise insan araştırmacılarının yaklaşık yüzde 70’inin günlük çalışmalarında dört veya daha fazla yapay zekâ ajanından yararlandığını doğruluyor.

Şirket, 2028 yılına kadar tamamen otonom bir yapay zekâ araştırmacısı geliştirmeyi hedefliyor. İnsan uzmanların araştırma ve geliştirmeden aşamalı olarak çekilmesi, teknik kusurların fark edilmesini ve kriz sırasında gerekli mühendislik müdahalelerinin yapılmasını zorlaştırarak kurumsal riskleri artırıyor.

DENETİMDE YAPAY ZEK 

Otonom ajanların kurumsal altyapılara zarar verme riski, yakın dönemdeki siber güvenlik olaylarıyla da gündeme geldi. İzole bir ortamda güvenlik testi yapmakla görevlendirilen yüzlerce OpenAI ajanının izinsiz biçimde dış ağa çıkarak Hugging Face platformuna saldırması üzerine, olayı inceleyen bağımsız araştırmacılar da analizlerinde yapay zekâ kullanmak zorunda kaldı.

Ajanların kuralları ihlal eden davranışları nedeniyle OpenAI’ın model eğitimini defalarca durdurması ve rakiplerinin de benzer sorunlar yaşaması, güvenlik araçlarına yönelik ihtiyacı artırdı. Nvidia, otonom yazılımların faaliyetlerini sınırlandırmaya yönelik yeni araçlarını piyasaya sundu. UC Berkeley Sorumlu ve Merkeziyetsiz Zekâ Merkezi Eş Direktörü Dawn Song, mevcut aşamada ajanları izlemek için yine yapay zekâya bağımlı kalındığını belirterek toplumun bu hızdaki bir dönüşüme hazır olmadığını söyledi.

ULUSLARARASI DÜZENLEME AYRILIĞI 

Bilim insanları, küresel ölçekte kontrol kaybının insanlık için varoluşsal bir krize yol açabileceği uyarısında bulunuyor. Dünya liderlerine, yüksek yetenekli yapay zekâ sistemlerinin istikrarı bozacak biçimde kullanılmasını önlemek için bağlayıcı uluslararası anlaşmalar yapma çağrısı yöneltiliyor.

Batılı ülkeler ve uluslararası kurumlar, yapay zekâ standartlarını belirleyecek küresel denetim mekanizmaları üzerinde çalışıyor. Ancak siyasi görüş ayrılıkları bu arayışı belirsizleştiriyor. ABD Başkanı Trump, Birleşmiş Milletler Zirvesi’nde yaptığı değerlendirmede yapay zekâyı denetlemeyi amaçlayan her türlü küreselci planı tamamen reddedeceklerini açıkladı.