Nvidia harekete geçti! Yapay zeka ajanlarına karşı yeni güvenlik platformu

ABD merkezli çip üreticisi Nvidia, Hugging Face vakasının ardından yapay zeka ajanlarının kontrolden çıkmasını önlemek amacıyla geliştirdiği yeni güvenlik platformunu duyurdu.

Nvidia Kurumsal Yapay Zekadan Sorumlu Başkan Yardımcısı Justin Boitano, basın mensuplarına yaptığı açıklamada, "Open Agent Safety Platform" adlı sistemin, yapay zeka ajanlarının hareket alanına sınırlar getiren açık kaynaklı yazılımlar içerdiği bildirildi.

Hugging Face vakasına da değinen Boitano, "Bildiğimiz kadarıyla bu yeni güvenlik platformu, öncü laboratuvarlarda model değerlendirme süreçlerinde erkenden kullanılmış olsaydı bu ihlali (Hugging Face vakası) durdurabilirdi." değerlendirmesinde bulundu.

"OpenShell" adı verilen yazılımın, geliştiricilere bir yapay zeka ajanının yalnızca görevini yapmaya yetecek kadar yetkiye sahip olduğunu resmi olarak doğrulama imkanı sunduğunu kaydeden Boitano, açık kaynaklı yazılımın çeşitli bilgi işlem platformlarında da çalışabilecek şekilde genişletilebildiğini aktardı.

ANLIK İZLEME YAPILABİLECEK
Şirketten yapılan açıklamada da platformun ayrıca doğrudan çip üzerinde çalışan ve yapay zeka ajanının faaliyetlerini anlık izleyen "Sentry" adlı bağımsız bir güvenlik katmanı içerdiği belirtilerek, sistemin, ajanın belirlenen hedefin dışına çıkmaya çalışması durumunda anında müdahale edebildiği bildirildi.

Boitano, bu konuya ilişkin, "Sistem, şüpheli aracıları milisaniyeler içinde karantinaya alabiliyor. OpenShell aracının eylemlerini yönetirken, Sentry bağımsız olarak şüpheli davranışları izliyor ve kontrol altına alıyor." ifadelerini kullandı.

Açıklamada, aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase'in de yer aldığı 100'den fazla kurum ve kuruluşun platformu kullanmaya başladığı bildirildi.

HUGGİNG FACE VAKASI
OpenAI'ın Temmuz 2026'da yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik yürüttüğü testler, ciddi bir güvenlik olayına dönüşmüştü.

Şirketin 26 Ağustos'ta yayımladığı inceleme raporuna göre, OpenAI'ın yalnızca araştırmalarda kullandığı "Internal Model 1 (IM1)" adlı modeli olayda başrol oynamıştı.

Yapay zeka ajanı, testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu.

Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu "Hugging Face"e erişim sağlayabilecek 14 kimlik bilgisini tespit etmiş ve bunları diğer ajanlarla paylaşmıştı.

Ajanlar, daha sonra Hugging Face'in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.