Siber güvenlikte Agentic AI dönemi: Yapay zeka ajanlarına karşı yeni tehditler

Yapay zeka teknolojilerinin siber güvenlikte kullanımı yaygınlaşırken otonom yapay zeka ajanlarının oluşturabileceği riskler de gündeme geliyor. Kamu Siber Güvenlik Derneği tarafından Ankara Yıldırım Beyazıt Üniversitesi ev sahipliğinde düzenlenen "Uygulamalı Agentic Siber Güvenlik Eğitimi"nde katılımcılar, yapay zeka destekli bir güvenlik ajanı geliştirdi. Eğitimde prompt injection saldırılarının yapay zeka sistemleri üzerindeki etkileri ve bu tehditlere karşı alınabilecek güvenlik önlemleri uygulamalı olarak incelendi.

YAPAY ZEKA AJANLARININ SİBER GÜVENLİKTE KULLANIMI ANKARA'DA ELE ALINDI

Kamu Siber Güvenlik Derneği, yapay zeka teknolojilerinin siber güvenlik alanındaki kullanımına yönelik uygulamalı bir eğitim programı düzenledi.

Ankara Yıldırım Beyazıt Üniversitesinin ev sahipliğinde gerçekleştirilen etkinlik, "Siber Güvenlik Eğitim Serisi - 6" kapsamında yapıldı.

"Uygulamalı Agentic Siber Güvenlik Eğitimi" başlığıyla düzenlenen programda, yapay zeka ajanlarının siber güvenlik uygulamalarındaki rolü ve oluşturabilecekleri tehditler değerlendirildi.

Katılımcılar, eğitim kapsamında yapay zeka destekli güvenlik sistemlerinin nasıl çalıştığını ve bu sistemlerin güvenliğinin nasıl sağlanabileceğini uygulamalı olarak inceleme fırsatı buldu.

AGENTIC AI SİSTEMLERİ SİBER GÜVENLİKTE NASIL KULLANILIYOR?

Eğitim programında yapay zeka ajanlarının siber güvenlik alanındaki uygulamaları ele alındı.

Eğitmen Caner Filibelioğlu, katılımcılara Agentic AI olarak adlandırılan yapay zeka sistemlerinin çalışma biçimlerini ve güvenlik alanındaki kullanımını aktardı.

Geleneksel üretken yapay zeka uygulamalarından farklı olarak yapay zeka ajanları, kendilerine verilen hedefler doğrultusunda plan oluşturabiliyor, çeşitli araçlardan yararlanabiliyor ve bağımsız kararlar alabiliyor.

Bu özellikler, sistemlerin belirli görevleri daha otonom biçimde gerçekleştirmesine imkan sağlarken güvenlik açısından yeni sorumlulukları da beraberinde getiriyor.

KATILIMCILAR UYGULAMALI EĞİTİMDE YAPAY ZEKA GÜVENLİK AJANI GELİŞTİRDİ

Programın uygulamalı bölümünde katılımcılar, bir yapay zeka güvenlik ajanı oluşturdu.

Geliştirilen ajan üzerinden sistemlerin davranışları ve güvenlik kontrolleri incelendi.

Eğitimde özellikle yapay zeka ajanlarının dışarıdan gelen yönlendirmelerden nasıl etkilenebileceği üzerinde duruldu.

Katılımcılar, güvenlik ajanlarının istenmeyen talimatlarla karşılaşması durumunda ortaya çıkabilecek riskleri ve bunlara karşı uygulanabilecek koruma yöntemlerini değerlendirdi.

PROMPT INJECTION SALDIRILARININ YAPAY ZEKA AJANLARINA ETKİSİ İNCELENDİ

Eğitimin önemli başlıklarından birini prompt injection olarak bilinen saldırı yöntemi oluşturdu.

Prompt injection, yapay zeka sistemlerinin işlediği içeriklere yerleştirilen kötü niyetli talimatlarla sistemin davranışını veya kararlarını değiştirmeyi amaçlayan bir saldırı türü olarak biliniyor.

Uygulamalı eğitimde, bu tür saldırıların yapay zeka ajanlarının davranışları üzerindeki etkileri incelendi.

Katılımcılar, bir güvenlik ajanının dışarıdan gelen yönlendirmeler karşısında nasıl tepki verebildiğini ve saldırıların oluşturabileceği güvenlik risklerini gözlemledi.

Ayrıca yapay zeka ajanlarının istenmeyen işlemler gerçekleştirmesini engellemeye yönelik güvenlik önlemleri ele alındı.

YAPAY ZEKA AJANLARI BAĞIMSIZ KARARLAR ALABİLİYOR

Kamu Siber Güvenlik Derneği Başkanı Dr. Nurullah Celal Uslu, yapay zeka teknolojilerinin hızla geliştiğine dikkat çekti.

Agentic AI sistemlerinin siber güvenlik açısından önemli fırsatlar sunduğunu ancak yeni riskler de oluşturduğunu belirtti.

Uslu, geleneksel üretken yapay zeka sistemleriyle otonom yapay zeka ajanları arasındaki farklara değindi.

Yapay zeka ajanlarının kendilerine verilen hedefler doğrultusunda plan yapabildiğini, araçları kullanabildiğini ve bağımsız kararlar alabildiğini ifade etti.

Bu sistemlerin hatalı kararlarının gerçek sistemler üzerinde doğrudan sonuçlara yol açabileceği uyarısında bulundu.

UZMANLARDAN YAPAY ZEKA AJANLARINDA YETKİ SINIRLANDIRMASI UYARISI

Dr. Nurullah Celal Uslu, yapay zeka ajanlarının güvenli biçimde kullanılabilmesi için sistemlere verilen yetkilerin dikkatle belirlenmesi gerektiğini vurguladı.

Uslu, "Yapay zekaya ne kadar yetenek kazandırdığımız kadar, ona ne kadar yetki verdiğimiz de önemlidir." değerlendirmesinde bulundu.

Yapay zeka ajanlarının bağımsız işlem yapabilmesi nedeniyle kontrol mekanizmalarının kritik önem taşıdığını belirten Uslu, özellikle üç güvenlik unsuruna dikkat çekti:

• Yetki sınırlandırması: Yapay zeka ajanlarının erişebileceği sistemlerin ve gerçekleştirebileceği işlemlerin belirlenmesi.

• Kritik işlemlerde insan onayı: Önemli sonuçlar doğurabilecek faaliyetlerin insan denetimine tabi tutulması.

• Bağımsız güvenlik kontrolleri: Yapay zeka sistemlerinin davranışlarının ayrı kontrol mekanizmalarıyla değerlendirilmesi.

Uslu, bu önlemlerin otonom yapay zeka sistemlerinin güvenliğini sağlamak açısından önemli olduğunu ifade etti.

GÜVENLİ YAPAY ZEKA GELİŞTİRMEK YENİ BİR UZMANLIK ALANI OLACAK

Kamu Siber Güvenlik Derneği Başkanı Uslu, yapay zeka teknolojilerindeki gelişmelerin yeni uzmanlık alanlarını da beraberinde getireceğine dikkat çekti.

Gelecekte yalnızca yapay zeka sistemlerini kullanabilmenin veya geliştirebilmenin yeterli olmayacağını belirtti.

Bu teknolojilerin güvenli biçimde geliştirilmesi ve kullanılması konusunda da uzmanlığa ihtiyaç duyulacağını ifade etti.

Uslu, açıklamasında şu sözleri kullandı:

"Önümüzdeki dönemde yanlızca yapay zekayı kullanabilmek veya yapay zekayı geliştirebilmek yeterli olmayacak. Güvenli yapay zeka sistemleri de geliştirebilmek de çok önemli bir uzmanlık alanı olacak. Bugün de bu konuyu eğitimde sadece teorik olarak değil, uygulamalı olarak ele aldık. Yapay zeka ajanlarının siber güvenlikte nasıl kullanılabileceğini gördük, bir güvenlik ajanı oluşturduk ve prompt injection saldırılarının bir yapay zeka ajanının davranışlarını nasıl etkileyebildiğini ve bu tür saldırılara karşı hangi güvenlik önlemlerinin alınabileceğini gördük."

SİBER GÜVENLİK EĞİTİMİNDE AKADEMİ VE SEKTÖR TEMSİLCİLERİ BULUŞTU

Ankara Yıldırım Beyazıt Üniversitesi ev sahipliğinde gerçekleştirilen eğitim programına akademi, kamu ve siber güvenlik sektöründen temsilciler katıldı.

Etkinlikte Kamu Siber Güvenlik Derneği Başkanı Dr. Nurullah Celal Uslu'nun yanı sıra Ankara Yıldırım Beyazıt Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Dekanı Prof. Dr. Ergün Eraslan da konuşma yaptı.

Türkiye Siber Güvenlik Kümelenmesi Genel Koordinatörü Alpaslan Kesici ile Netsys Ankara Bölge Müdürü Mustafa Gençer de programda yer aldı.

Etkinlikte yapay zeka teknolojilerinin siber güvenlik alanındaki uygulamaları ve güvenli yapay zeka sistemlerinin geliştirilmesinin önemi öne çıktı.

SİBER GÜVENLİK EĞİTİMİ ÖDÜLLÜ YARIŞMAYLA SONA ERDİ

Kamu Siber Güvenlik Derneği tarafından düzenlenen uygulamalı eğitim programı, katılımcılara yönelik gerçekleştirilen ödüllü yarışmayla tamamlandı.

Yarışmada dereceye giren katılımcılara akademik yayınlar hediye edildi.

Ayrıca Hackviser tarafından sağlanan siber güvenlik eğitim platformuna bir yıllık erişim hakkı da ödüller arasında yer aldı.

Böylece katılımcıların eğitim sonrasında da siber güvenlik alanındaki bilgi ve becerilerini geliştirmelerine yönelik imkan sunuldu.

YAPAY ZEKA VE SİBER GÜVENLİKTE İNSAN DENETİMİNİN ÖNEMİ ARTIYOR

Yapay zeka ajanlarının giderek daha bağımsız hareket edebilmesi, siber güvenlik alanında yeni koruma yöntemlerinin geliştirilmesini gündeme getiriyor.

Kamu Siber Güvenlik Derneğinin Ankara'da düzenlediği eğitimde, otonom yapay zeka sistemlerinin oluşturabileceği riskler yalnızca teorik olarak değil, uygulamalı çalışmalarla da ele alındı.

Katılımcılar bir güvenlik ajanı oluşturarak prompt injection saldırılarının etkilerini ve bu saldırılara karşı kullanılabilecek önlemleri inceledi.

Dernek Başkanı Dr. Nurullah Celal Uslu, yapay zeka sistemlerine tanınan yetkilerin sınırlandırılması, kritik işlemlerde insan onayının alınması ve bağımsız güvenlik kontrollerinin uygulanması gerektiğini vurguladı.

Programda, yapay zekayı kullanma ve geliştirme becerilerinin yanı sıra güvenli yapay zeka sistemleri oluşturmanın da gelecekte önemli bir uzmanlık alanı haline geleceği mesajı öne çıktı.