Teknoloji devlerinden yapay zeka güvenliği için açık kaynak ittifakı

Yapay zeka modellerinin ve otonom yazılım ajanlarının kurumsal altyapılarda kullanımı yaygınlaşırken, siber güvenlik alanında yeni bir iş birliği başlatıldı. Nvidia, Microsoft, SpaceX, Palantir, Salesforce, IBM, Dell ve CrowdStrike’ın da aralarında bulunduğu bulut bilişim, yazılım ve güvenlik şirketleri, Açık Güvenli Yapay Zeka İttifakı çatısı altında bir araya geldi. Yeni oluşum, şirketleri, yazılımları ve yapay zeka ajanlarını siber saldırılara karşı korumak amacıyla açık kaynaklı teknolojiler, yöntemler ve denetim araçları geliştirmeyi hedefliyor.

OPENAI, GOOGLE VE ANTHROPIC İTTİFAKTA YOK

Linux Vakfı ve Hugging Face gibi açık kaynak ekosisteminin önde gelen kuruluşlarının da katıldığı ittifakta, kapalı model pazarının önemli oyuncuları OpenAI, Google ve Anthropic yer almadı. İttifak üyeleri, kapalı yapay zeka sistemlerinin güvenlik krizlerinde adli inceleme ve hızlı müdahale süreçlerini sınırladığını savunuyor. Hugging Face platformuna yönelik, 17 binden fazla eylemi kapsayan geniş çaplı bir siber saldırıda kapalı modellerin saldırgan ile savunmacıyı ayırt edemediği belirtildi. Şirketin saldırıyı, kendi altyapısında çalıştırdığı açık kaynaklı bir modelle engellediği aktarıldı.

TEK SAĞLAYICIYA BAĞIMLILIĞA KARŞI AÇIK MİMARİ

Konsorsiyum, şirketlerin ve kamu kurumlarının tek bir teknoloji sağlayıcısına bağımlı kalmasının siber güvenlik açısından tek hata noktası oluşturduğuna dikkat çekiyor. Açık kodlu ve açık ağırlıklı sistemler, kurumların kendi yerel altyapılarında doğrudan incelenebiliyor, özelleştirilebiliyor ve çalıştırılabiliyor. Bu yapı, siber savunma ekiplerine hassas veriler üzerinde daha fazla denetim ve daha hızlı müdahale imkanı sağlıyor.

ŞİRKETLER ARAÇLARINI AÇIK KAYNAĞA TAŞIYOR

Üye şirketler, geliştirdikleri güvenlik araçlarını açık kaynak ekosistemine sunmaya başladı. Nvidia, ajan davranışlarının test edilmesini ve yönetilmesini sağlayan NOOA çerçevesini paylaşırken, Microsoft güvenlik açıklarını tespit eden MDASH çok modelli tarama aracını sisteme dahil etti. SpaceXAI, Grok Build kodlama aracını açık kaynaklı hale getirdi ve Grok modellerinin ağırlıklarını paylaşacağını duyurdu. HPE ile IBM ise sıfır güven kimlik standartları ve dijital olarak imzalanmış yazılım tedarik zinciri yamalarıyla ittifaka katkı sağlıyor.

AÇIK MODELLERİN KISITLANMAMASI İSTENDİ

Açık Güvenli Yapay Zeka İttifakı, küresel politika yapıcılara ve finans otoritelerine açık model sistemlerinin kısıtlanmaması çağrısında bulundu. Grup, açık modellerin kötüye kullanılma riski taşıdığını kabul ederken, benzer risklerin kapalı sistemlerde de bulunduğunu savundu. İttifak üyelerine göre izlenmesi gereken yol, açık sistemleri sınırlandırmak yerine bu modelleri güçlü güvenlik protokolleri ve denetim araçlarıyla desteklemek.