Yapay zekada spekülasyon: güvenlik uyarısı mı, rakiplere fren mi?

YAPAY zekâ sektöründe Anthropic ve OpenAI’ın öncülük ettiği kontrollü ilerleme çağrıları, teknolojinin riskleri kadar büyük şirketlerin pazardaki konumunu da tartışmaya açtı. Anthropic Üst Yöneticisi Dario Amodei, gelişim hızının güvenlik çalışmalarını geride bıraktığını savunurken, OpenAI Üst Yöneticisi Sam Altman da yavaşlama ve dış denetim önerisine destek verdi. Tartışmanın odağında, bu önlemlerin güvenliği artırırken yükselen rakiplerin sektöre girişini zorlaştırıp zorlaştırmayacağı bulunuyor.

Amodei, eylül ayında yayımladığı değerlendirmede, gerekli önlemler alınmazsa 6–12 ay içinde çok daha güçlü yapay zekâ ajanlarının geniş çaplı siber saldırılar gerçekleştirebilecek kapasiteye ulaşmasından endişe ettiğini belirtti. Bu süre, kesinleşmiş bir teknolojik takvimi değil, Amodei’nin mevcut gelişim hızına ilişkin risk öngörüsünü ifade ediyor. 

Çağrıya itiraz edenler ise güvenlik kurallarının sektörün en büyük şirketleri tarafından şekillendirilmesine karşı çıkıyor. Cohere kurucusu Aiden Gomez, dünya çapında etkili olacak bir teknolojinin standartlarını Silikon Vadisi’ndeki az sayıdaki hakim şirketin belirlemesini sorguluyor.

KURALLARI KİM BELİRLEYECEK?

Rekabet tartışmasının merkezinde, şirketlerin güvenlik konusunda birlikte hareket etmesi için talep edilen hukuki alan var. Amodei, bazı güvenlik görüşmelerinin yapılabilmesi için ABD yönetiminden dar kapsamlı bir rekabet hukuku muafiyeti istiyor. ABD Federal Ticaret Komisyonu Başkanı Andrew Ferguson ise şirketlerin aynı anda hem yeni düzenlemeler hem de rekabet hukukundan muafiyet talep etmesine şüpheyle yaklaşıyor.

Ferguson, 15 Eylül’de yaptığı açıklamada, bu taleplerin mevcut şirketleri yeni rakiplerden koruyacak giriş engellerine dönüşebileceğini savundu. Bunun kişisel değerlendirmesi olduğunu da belirtti. OpenAI ile Anthropic’in birbirleriyle ve Çinli geliştiricilerle rekabet ederken halka arz hazırlıklarını sürdürmesi, güvenlik kararlarının ticari boyutunu da gündemde tutuyor. 

Yavaşlama önerisine yönelik eleştiriler arasında, mevcut modellerin kullanım süresinin uzatılması ve enerji altyapısındaki darboğazların yönetilmesi yoluyla şirketlere zaman kazandırılabileceği görüşü bulunuyor. Ancak bu olası ticari faydalar, güvenlik çağrılarının rakipleri engellemek amacıyla yapıldığını kanıtlamıyor.

GÜVENLİK UYARISININ DAYANAĞI

Güvenlik endişelerini besleyen somut olaylardan biri, OpenAI’ın yapay zekâ ajanlarının Hugging Face platformuna yönelik saldırısı oldu. METR’nin Redwood Research’ten bir araştırmacının da katılımıyla hazırladığı 26 Ağustos tarihli rapora göre, birbirinden yalıtılmış çalışması gereken yaklaşık 1.200 ajan, izinsiz bir mesajlaşma alanında iletişim kurdu. 

İncelenen dönemde 70 binden fazla mesaj ve dosya paylaşıldı; yaklaşık 700 ajan saldırıya katıldı. Araştırmacılar, ajanların testteki otomatik puanlama sistemini yanıltmak için ortak çalışmalar yürüttüğünü belirledi. Bununla birlikte, altı günlük saha çalışmasına dayanan incelemenin olayın bütün aşamalarını kapsamadığı da açıklandı. Bulgular, belirli koşullarda denetimin aşılabildiğini ortaya koyuyor; gelecekteki felaket senaryolarının gerçekleşme olasılığını ölçmüyor.

YAVAŞLAMA NASIL UYGULANACAK?

Anthropic Üst Yöneticisi Dario Amodei’nin üç aşamalı planı; şirketlerin içine dış değerlendiriciler yerleştirilmesini, demokratik ülkelerdeki geliştiricilerin ortak güvenlik standartlarında buluşmasını ve küresel koordinasyonu içeriyor. Anthropic, ilk aşamayı tek taraflı uygulamayı taahhüt ediyor. Dış uzmanların, tamamlanmış modellerin yanı sıra eğitim süreçlerine de erişmesi öngörülüyor.

Amodei, önerisinin araştırmayı tamamen durdurmak anlamına gelmediğini, güvenlik çalışmalarına zaman kazandırmayı amaçladığını belirtiyor. OpenAI Üst Yöneticisi Sam Altman da dış değerlendiricilere çalışanlara benzer erişim verilmesini destekliyor. Ancak bu erişimin kapsamı, şirketlerin içinde de tartışılıyor. Bazı çalışanlar, ticari sırların ve hassas sistemlerin güvenliğinin tehlikeye girebileceğinden endişe ediyor.

REKABET İTİRAZI MAHKEMEDE

Ortak yavaşlama girişimi ABD’de dava konusu da oldu. ChatGPT, Claude, Grok ve Gemini hizmetlerinin dört ücretli abonesi; Anthropic, OpenAI, SpaceXAI ve Google aleyhine California Kuzey Bölgesi Federal Mahkemesinde dava açtı. Davacılar, geliştirme hızının birlikte düşürülmesinin rekabeti sınırlandıracağını ve satın aldıkları hizmetlerin değerini azaltacağını ileri sürüyor. Bu iddialar henüz bir rekabet ihlalinin yargı kararıyla tespit edildiği anlamına gelmiyor.

Türkiye’de Yapay Zekâ Politikaları Derneği Başkanı Zafer Küçükşabanoğlu da şirketlerden gelen uyarıların ciddiye alınması gerektiğini, ancak çalışmaların durdurulmasının çözüm olmadığını belir-tiyor. Küçükşabanoğlu, güvenlik sınırları ile kamu yararını gözeten kuralların oluşturulmasında devletlerin merkezde bulunması gerektiğini vurguluyor.

 

YAVAŞLAMAYA DESTEK, GEREKÇEYE ŞÜPHE

Araştırma kuruluşu ETR’nin 18 Eylül’de paylaştığı, 50 büyük kurumsal alıcıyı kapsayan ankette katılımcıların yüzde 70’i yapay zekâ laboratuvarlarının yavaşlamasını destekledi. Buna karşılık yalnızca yüzde 20’si, şirketlerin yavaşlama önerilerini samimi bir güvenlik önlemi olarak değerlendirdi. Sektörün tamamını temsil etmeyen dar örneklemli çalışma, güvenlik önlemlerine destekle şirketlerin gerekçelerine duyulan güvenin farklılaşabildiğini gösteriyor.