Sam Altman’dan yapay zekada güvenlik odaklı yavaşlama mesajı

OpenAI CEO’su Sam Altman, yapay zeka teknolojilerinin hızla gelişmesinin beraberinde ciddi güvenlik ve siber riskler getirebileceği uyarısında bulundu. Altman, şirketlerin yasal düzenlemelerin devreye girmesini beklemeden kendi güvenlik mekanizmalarını oluşturması gerektiğini belirterek, sektör içindeki rekabet baskısının güvenlik kontrollerinden taviz verilmesini haklı çıkarmayacağını söyledi. En gelişmiş yapay zeka modelleri için federal düzeyde denetim çerçevesini desteklediklerini ifade eden Altman, güvenlik testleri ile izleme sistemlerinin ciddi zaman ve maliyet gerektirdiğine dikkat çekti.

HALKA ARZ

Altman’ın açıklamaları, OpenAI’ın ticari büyüme planlarının da güvenlik önceliklerinden bağımsız yürütülmeyeceğine işaret etti. Şirketin hızla büyüyen operasyonları ve olası halka arz süreci açısından güvenlik analizlerinin belirleyici olabileceğini ifade eden Altman, gerektiğinde büyüme hızının düşürülmesinin veya halka arz takviminin ötelenmesinin gündeme gelebileceği sinyalini verdi. OpenAI CEO’su, özellikle en ileri modellerde güvenlik kontrollerinin geliştirme ve ticarileştirme takvimlerinin önüne geçebilmesi gerektiğini savundu.

SİBER RİSKLER

Altman’ın uyarıları, Anthropic CEO’su Dario Amodei ve xAI kurucusu Elon Musk’ın yapay zeka güvenliğine ilişkin ihtiyat çağrılarıyla aynı döneme denk geldi. Sektörde, kontrolden çıkan yapay zeka sistemlerinin koordineli siber saldırılar düzenleyebilmesi ve kritik internet altyapılarını hedef alabilmesi gibi senaryolar tartışılıyor. Amodei de kontrolden çıkmış bir yapay zeka sürüsünün altı ila 12 ay içinde internet altyapısı üzerinde ciddi bir tehdit oluşturabileceği uyarısında bulundu. Teknoloji yöneticileri, modellerin hedefleriyle kullanıcı veya geliştirici amaçları arasındaki uyumsuzlukların ve siber güvenlik açıklarının büyük ekonomik kayıplara yol açabileceğini belirterek güvenlik testlerinin ticari ticarileşme baskısının gerisinde kalmaması gerektiğini vurguluyor.

FEDERAL DENETİM

Altman, yapay zeka geliştiricilerinin kendi iç güvenlik sistemlerini güçlendirmesinin yanında en ileri modeller için federal denetimin de gerekli olduğunu düşünüyor. Güvenlik değerlendirmeleri, model davranışlarının izlenmesi ve potansiyel kötüye kullanım senaryolarının önceden test edilmesi bu yaklaşımın temel unsurları arasında yer alıyor. Şirketlerin yalnızca yasal yükümlülüklerle hareket etmesinin yeterli olmayacağını savunan Altman, yüksek risk taşıyan sistemlerde daha geliştirme aşamasında ihtiyatlı hareket edilmesi gerektiğini belirtiyor.

KÜRESEL TARTIŞMA

Gelişmiş yapay zeka modellerinin jeopolitik rekabette ve toplumları hedef alan operasyonlarda kullanılabileceğine yönelik tartışmalar Çin’in de tepkisini çekti. Çin Dışişleri Bakanlığı Sözcüsü Guo Jiakun, düzenlediği basın toplantısında tehdit söylemlerinin yaygınlaştırılmasının ve çatışmacı bir yaklaşım benimsenmesinin küresel yapay zeka yönetişimine zarar vereceğini söyledi. ABD’de güvenlik ve denetim çağrıları güçlenirken Çin tarafının bu söylemlere karşı çıkması, yapay zeka yönetişiminin yalnızca teknoloji şirketleri arasında değil, ülkeler arasında da tartışılan bir başlığa dönüştüğünü gösteriyor.