Yapay zeka ajanlarına dijital müfettiş: Microsoft Guardian Agents sistemini tanıttı

Microsoft, şirket verilerine erişen ve işletmeler adına işlem yapan yapay zeka ajanları için yeni güvenlik özellikleri duyurdu. Haziranda tanıtılan Project Perception kapsamında geliştirilen Guardian Agents, ajanların faaliyetlerini anlık olarak denetlemek üzere tasarlandı. Şirket, kurumların kendi kullanıma aldıkları ajanların da öngörülemeyen davranışlarla güvenlik tehdidine dönüşebileceğine dikkat çekti.

KURUM İÇİ TEHDİT 

Project Perception’ın ilk çerçevesi, Anthropic’in Mythos ve Fable modelleri ile OpenAI’ın Daybreak güvenlik açığı tarayıcısı gibi araçların gündeme getirdiği dış saldırı risklerine odaklanmıştı. Mimari; sızma denemeleri yapan kırmızı takım, açıkları belirleyen mavi takım ve zafiyetleri onaran yeşil takımdan oluşan üçlü bir savunma yapısı kurmuştu. Microsoft CEO’su Satya Nadella ise son açıklamalarında şirket içindeki ajanların risklerini öne çıkardı.

Ajanların kötü niyetli bir çalışan gibi kurum içi tehdit oluşturabileceğini belirten Nadella, model sağlayıcılarının güvenlik taahhütlerine koşulsuz güvenilmemesi gerektiğini söyledi. Hassas verilere erişen ve kritik kararlar alan ajanların sorumluluğunun dış tedarikçilere bırakılamayacağını vurgulayan Nadella, “Zekanın tedariki ile bu zeka üzerindeki yetki ve denetimi birbirinden ayırmamız gerekiyor” dedi.

BAĞIMSIZ DENETİM YAKLAŞIMI 

Microsoft Güvenlik Birimi Yöneticisi Hayete Gallot, ileri düzey modellerin kurumsal normlara veya etik yargılara uymaktan çok verilen görevi tamamlamak üzere eğitildiğini belirtti. Gallot’a göre bu yapı, kötü niyet bulunmasa bile tahmin edilmesi güç sonuçlar doğurabiliyor.

OpenAI ve Anthropic’in yatırımcısı ve büyük bulut iş ortağı olan Microsoft, ajanların güvenlik denetiminin model tedarikinden ayrı ele alınmasını savundu. Mali denetçilerin denetledikleri kurumlardan bağımsız olması ilkesini örnek alan yaklaşım, işletmelerin güvenlik yazılımlarını model üreticisinden ayrı bir sağlayıcıdan edinmesini teşvik ediyor. Microsoft da bu alanda denetim altyapısı sağlayıcısı olarak konumlanıyor.

DEFENDER’DA AJAN TESPİTİ 

Şirket, yeni yaklaşımı ürünlerine de taşımaya başladı. Microsoft Defender’a eklenen özellik, çalışanların kurumsal ağa kurumun bilgisi dışında dahil ettiği Claude Code, Codex ve OpenClaw’ın da aralarında bulunduğu 60 farklı yapay zeka ajan türünü otomatik olarak tespit edebiliyor.

Güvenlik mimarisi; ajanların veritabanı erişimini sınırlandırma, izinleri görevin riskine göre değiştirme ve tehlikeli karar aşamasında işlemi durdurarak insan onayı isteme yeteneklerini içeriyor.

DONANIM SEVİYESİNDE ÖNLEM 

Microsoft, 100’ü aşkın teknoloji şirketinin katıldığı NVIDIA Açık Ajan Güvenlik Platformu’nun kurucu üyeleri arasında da yer aldı. Platform, ajanların izole ortamlarda çalıştırılmasını ve acil durumda donanım seviyesinde durdurulabilmesini amaçlıyor.

Şirket, ajan güvenliği ve yerleşik denetim mekanizmaları için optimize edilen NVIDIA çipli Surface Laptop Ultra bilgisayarlarını da pazara sundu. Böylece kurumsal ağdaki ajan tespitinden cihaz üzerindeki kontrollere kadar farklı güvenlik katmanlarını ürünlerine dahil etti.