5 yapay zeka modelinden 3’ü terörle ilgili güvenlik testlerini geçemedi

Yapay zeka modellerinin güvenliğine ilişkin dikkat çeken yeni bir araştırma yayımlandı. İngiltere merkezli Tech Against Terrorism kuruluşu, 130’dan fazla yapay zeka modelini yüzlerce terör bağlantılı taleple test etti. Güvenlik önlemleri devre dışı bırakılan bazı modellerin saldırılar, terörün finansmanı ve radikalleşmeyle ilgili taleplere ayrıntılı yanıtlar verdiği belirlendi.

YAPAY ZEKA MODELLERİ TERÖRLE İLGİLİ TESTLERE SOKULDU

CBS televizyonunun haberine göre İngiltere merkezli, kar amacı gütmeyen Tech Against Terrorism kuruluşu, yapay zeka modellerine yönelik kapsamlı bir araştırma gerçekleştirdi.

Araştırmada, saldırı planlayan bir teröristin yöneltebileceği türden yüzlerce talep kullanılarak 130’dan fazla yapay zeka modeli değerlendirildi.

Modellerin güvenlik davranışlarının, koruma önlemleri kaldırıldıktan sonra nasıl değiştiği incelendi.

GÜVENLİK ÖNLEMLERİNİ KALDIRAN SÜREÇ UYGULANDI

Araştırmada yapay zeka modellerine güvenlik önlemlerini ortadan kaldıran ve “abliteration” olarak adlandırılan “reddetme davranışlarını kaldırma” süreci uygulandı.

Bu işlem, modellerin normal koşullarda reddettiği bazı taleplere yanıt verebilir hale gelmesini amaçlayan bir değişiklik olarak kullanıldı.

Araştırmacılar, söz konusu işlemin ardından modellerin davranışlarında önemli değişiklikler tespit etti.

5 MODELİN 3’Ü GÜVENLİK TESTLERİNİ GEÇEMEDİ

Güvenlik önlemlerinin kaldırılmasının ardından incelenen 5 yapay zeka modelinden 3’ünün terörle ilgili güvenlik testlerini geçemediği belirlendi.

Modellerin orijinal versiyonlarının bu tür talepleri reddettiği belirtildi.

Ancak güvenlik önlemleri kaldırıldıktan sonra bazı modellerin saldırılar, terörün finansmanı ve radikalleşmeyle ilgili taleplere ayrıntılı yanıtlar verdiği ortaya çıktı.

LLAMA 3.1 8B MODELİNİN PUANI 97’DEN 3’E DÜŞTÜ

Araştırmada verilen örneklerden biri Meta’nın Llama 3.1 8B modeli oldu.

Model, üzerinde herhangi bir değişiklik yapılmadan önce güvenlik testinden 100 üzerinden 97 puan aldı.

Güvenlik önlemlerinin kaldırılmasının ardından ise modelin puanının yaklaşık 3’e düştüğü belirtildi.

Bu sonuç, güvenlik katmanlarının model davranışı üzerindeki etkisini ortaya koyan en dikkat çekici örneklerden biri oldu.

ORİJİNAL MODELLER TALEPLERİ REDDEDİYORDU

Araştırmaya göre yapay zeka modellerinin orijinal versiyonları saldırı, terörün finansmanı ve radikalleşmeye ilişkin talepleri reddediyordu.

Ancak reddetme davranışlarının kaldırılmasının ardından bazı modellerin bu tür taleplere ayrıntılı cevaplar verdiği gözlemlendi.

Bu durum, yapay zeka modellerinde yer alan güvenlik önlemlerinin devre dışı bırakılmasına ilişkin riskleri yeniden gündeme taşıdı.

DAHA GÜÇLÜ KORUMALAR ÖNERİLDİ

Tech Against Terrorism, araştırmanın ardından yapay zeka modellerinin güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü koruma mekanizmalarının geliştirilmesi gerektiğini belirtti.

Kuruluş ayrıca üzerinde değişiklik yapılmış modellerin dağıtımına yönelik kısıtlamalar getirilmesini önerdi.

Bu tür modellerin güvenlik katmanları kaldırıldıktan sonra geniş çaplı şekilde dağıtılmasının yeni riskler oluşturabileceğine dikkat çekildi.

“BİRÇOĞUNUN GÜVENLİĞİ ZATEN AŞILDI”

Tech Against Terrorism’in kurucusu Adam Hadley de araştırmanın sonuçlarına ilişkin değerlendirmede bulundu.

Hadley, “Kontrol kaybı ve yapay zekanın varoluşsal risk oluşturması konusunda endişe duyulması, gayet anlaşılabilir bir durum.” dedi.

Hadley ayrıca, “Asıl mesele şu ki bu durum aslında çoktan gerçekleşti çünkü bu açık kaynaklı modellerin birçoğunun güvenliği zaten aşıldı, sadece henüz kimse bunu fark etmedi.” ifadelerini kullandı.