Astra’da kritik siber yetenek ihtimali: OpenAI bazı çalışmaları durdurdu

Yapay zeka modellerinin siber güvenlik alanındaki yetenekleri giderek artarken OpenAI’den Astra modeli için dikkat çeken açıklama geldi. Şirket, yapılan ön değerlendirmeler sonucunda modelin kritik siber güvenlik eşiğine ulaşmış olabileceğinin henüz dışlanamadığını bildirdi. OpenAI bu nedenle izole test ortamlarından erişim kısıtlamalarına, model ağırlıklarının korunmasından ek izleme sistemlerine kadar bir dizi yeni güvenlik önlemini devreye soktu.

OPENAI’DEN ASTRA İÇİN KRİTİK SİBER GÜVENLİK UYARISI

OpenAI, yaklaşmakta olan yapay zeka modeli Astra’nın siber güvenlik kapasitesine ilişkin ilk değerlendirmelerini kamuoyuyla paylaştı.

Şirket, mevcut testlerin Astra’nın “kritik” seviyede siber yeteneklere sahip olabileceği ihtimalini kesin biçimde ortadan kaldırmak için yeterli olmadığını belirtti.

Bu nedenle model üzerinde yürütülen güvenlik testleri ve koruma mekanizmaları genişletildi.

“KRİTİK” SİBER GÜVENLİK SEVİYESİ NE ANLAMA GELİYOR?

OpenAI’nin Preparedness Framework olarak adlandırdığı güvenlik çerçevesinde yapay zeka modellerinin siber güvenlik yetenekleri farklı risk seviyelerine göre değerlendiriliyor.

Kritik eşik, bir modelin insan müdahalesi olmadan gerçek dünyadaki güçlü şekilde korunan kritik sistemlerde farklı önem seviyelerinde işlevsel sıfır gün açıklarını tespit edip bunlar için çalışan istismar yöntemleri geliştirebilmesi gibi yetenekleri kapsıyor.

Aynı kategori, yalnızca üst düzey bir hedef verilmesiyle güvenliği yüksek sistemlere karşı yeni ve uçtan uca siber saldırı stratejileri geliştirip uygulayabilen modelleri de içeriyor.

SIFIR GÜN AÇIKLARI NEDEN ÖNEMLİ?

Sıfır gün açıkları, yazılım üreticisinin henüz bilmediği veya giderilmesi için yama yayımlanmamış güvenlik açıkları açısından kullanılan bir kavram.

Gelişmiş yapay zeka sistemlerinin bu tür açıkları insan müdahalesine ihtiyaç duymadan keşfedebilmesi ve kullanılabilir istismar yöntemleri geliştirebilmesi, siber güvenlik açısından önemli bir risk oluşturabiliyor.

OpenAI’nin Astra için yürüttüğü değerlendirmelerin odak noktalarından biri de modelin bu seviyedeki görevleri ne ölçüde yerine getirebildiğini belirlemek.

BAZI ASTRA ÇALIŞMALARI DURDURULDU

OpenAI, yüksek yetenekli modeller için güçlendirilmiş güvenlik şartlarını karşılamayan bazı dahili Astra çalışmalarının durdurulduğunu açıkladı.

Şirket, model üzerindeki geliştirmelerin güvenli biçimde devam edebilmesi için daha sıkı güvenlik kontrollerinin uygulanacağını bildirdi.

İZOLE TEST ORTAMLARI DEVREYE ALINIYOR

OpenAI’nin açıkladığı yeni önlemler arasında daha sıkı izole test ortamları bulunuyor.

Yüksek risk taşıyan değerlendirmeler sırasında modelin dış sistemlerle ve ağlarla kontrolsüz etkileşim kurmasının önüne geçilmesi amaçlanıyor.

Bunun yanında ağ ve araç erişiminin daha sıkı şekilde sınırlandırılması planlanıyor.

MODEL AĞIRLIKLARINA EK KORUMA

OpenAI ayrıca yüksek yetenekli modellerin model ağırlıklarının korunmasına yönelik kontrolleri de güçlendirecek.

Şirket, model ağırlıkları için gelişmiş koruma ve şifreleme uygulamalarının devreye alınacağını bildirdi.

Ek izleme ve tehdit tespit yeteneklerinin de güvenlik sistemlerine dahil edileceği belirtildi.

SANDBOX ORTAMLARINDA ÇALIŞTIRILACAK

Yeni güvenlik tedbirleri kapsamında Astra’nın yüksek riskli faaliyetlerinin kontrollü ve sınırlandırılmış “sandbox” ortamlarında yürütülmesi de planlanıyor.

Bu yöntemle modelin test ortamının dışındaki sistemlere erişimi sınırlandırılarak olası beklenmeyen davranışların etkisinin azaltılması hedefleniyor.

ÜÇÜNCÜ TARAF TESTLERİ İÇİN DE YENİ KURALLAR

OpenAI’nin güvenlik önlemleri yalnızca şirket içindeki çalışmalarla sınırlı kalmayacak.

Şirket, Astra gibi daha yüksek risk taşıyan modeller üzerinde değerlendirme yapacak üçüncü taraf test ortaklarına da uygulanması tavsiye edilen güvenlik kontrolleri sağlayacak.

Böylece dış değerlendirmelerde gerçekleştirilen yüksek riskli testlerin daha kontrollü ortamlarda yapılması amaçlanıyor.

OPENAI: KRİTİK YETENEK KESİNLEŞMİŞ DEĞİL

OpenAI’nin açıklaması, Astra’nın kesin olarak kritik seviyede siber güvenlik yeteneğine ulaştığı anlamına gelmiyor.

Şirketin vurgusu, mevcut ön değerlendirmeler sonucunda bu ihtimalin henüz güvenilir biçimde dışlanamaması üzerine yoğunlaşıyor.

Bu nedenle OpenAI modeli daha yüksek risk seviyesindeki güvenlik şartları dikkate alınarak test ediyor.

YAPAY ZEKA MODELLERİNİN SİBER YETENEKLERİ ARTIYOR

OpenAI’nin Preparedness Framework kapsamında siber güvenlik, gelişmiş yapay zeka modellerinde yakından takip edilen temel risk alanlarından biri olarak değerlendiriliyor.

Şirketin çerçevesinde “yüksek” seviyedeki siber yetenekler, mevcut siber operasyonların ölçeklendirilmesindeki engelleri kaldırabilecek otomasyon kabiliyetlerini kapsarken, “kritik” seviye çok daha gelişmiş ve insan müdahalesinden bağımsız saldırı yeteneklerini ifade ediyor.

OPENAI SAVUNMA AMAÇLI KULLANIMA VURGU YAPTI

OpenAI, gelişmiş siber yeteneklere sahip yapay zeka modellerinin yalnızca risk yaratmadığını, savunma açısından da önemli imkanlar sağlayabileceğini belirtti.

Şirkete göre bu modeller, saldırganlardan önce güvenlik açıklarının belirlenmesi ve giderilmesinde siber güvenlik ekiplerine yardımcı olabilir.

OpenAI, Astra ve gelecekte geliştirilecek yüksek yetenekli modellerin sorumlu biçimde kullanılması için hükümetler, güvenlik enstitüleri ve sivil toplum kuruluşlarıyla birlikte çalışmayı sürdüreceğini bildirdi.

ASTRA İÇİN GÜVENLİK TESTLERİ YOĞUNLAŞACAK

OpenAI’nin aldığı kararlarla Astra’nın piyasaya sürülmesinden önce güvenlik önlemlerinin dayanıklılığının daha kapsamlı şekilde test edilmesi bekleniyor.

Modelin kritik siber güvenlik eşiğine ulaşıp ulaşmadığının belirlenmesi, Astra’nın hangi güvenlik kontrolleri altında kullanıma sunulacağı açısından da belirleyici olacak.