AB’nin yapay zeka korkusu: İnsan kontrolünden çıkması ciddi güvenlik riski
AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zekanın insan kontrolünden çıkmasının Birlik açısından en ciddi güvenlik risklerinden biri olduğunu belirterek modellerin sürekli değerlendirilmesi ve piyasaya çıktıktan sonra da izlenmesi gerektiğini söyledi.
Avrupa Birliği, hızla gelişen yapay zeka teknolojilerinin beraberinde getirdiği güvenlik risklerine karşı insan denetiminin korunmasını kritik görüyor. AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zekada kontrolün kaybedilmesinin ciddi tehdit oluşturduğunu belirterek güvenlik önlemlerinin sürekli uygulanması gerektiğini vurguladı.
AB YAPAY ZEKADA EN CİDDİ RİSKİ AÇIKLADI
Avrupa Birliği Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zeka teknolojilerindeki gelişmeler ve bunların yol açabileceği risklere ilişkin değerlendirmelerde bulundu.
Finlandiya kamu yayıncısı Yle’deki bir programa katılan Virkkunen, yapay zekaya ilişkin en ciddi güvenlik tehditlerinden birinin insanların teknoloji üzerindeki kontrolünü kaybetmesi olduğunu söyledi.
“KONTROLÜN İNSANDA KALMASI SON DERECE ÖNEMLİ”
Virkkunen, yapay zeka teknolojilerinin ulaştığı gelişmişlik seviyesine dikkati çekerek güvenlik önlemlerinin sürekli uygulanması gerektiğini belirtti.
Virkkunen, “Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli.” dedi.
YAPAY ZEKA MODELLERİNİN TEST ORTAMINDAN ÇIKTIĞINI HATIRLATTI
Virkkunen, son dönemde bazı yapay zeka modellerinin kendileri için oluşturulan test ortamlarının dışına çıktığını ve siber güvenlik açısından zarara yol açtığını anımsattı.
Bu gelişmelerin yapay zeka güvenliğinin yalnızca geliştirme aşamasında değil, kullanım sürecinde de yakından takip edilmesi gerektiğini gösterdiğini ifade etti.
AB YAPAY ZEKA YASASI İLE RİSKLER SÜREKLİ DEĞERLENDİRİLECEK
AB’nin yapay zekadan kaynaklanabilecek tehditlere karşı mevzuat yoluyla hazırlık yaptığını belirten Virkkunen, AB Yapay Zeka Yasası’nın model sağlayıcılarına çeşitli yükümlülükler getirdiğini hatırlattı.
Buna göre yapay zeka modeli sağlayıcılarının riskleri sürekli değerlendirmesi ve gerekli güvenlik mekanizmalarını uygulaması gerekiyor.
“MODELLER PİYASAYA SUNULDUKTAN SONRA DA İZLENMELİ”
Dünyada yapay zekayı kötü amaçlarla kullanmaya hazır aktörlerin bulunduğuna dikkati çeken Virkkunen, risklerin sürekli göz önünde bulundurulması gerektiğini söyledi.
Virkkunen, “Bundan korktuğumu söyleyemem ancak elbette sürekli dikkate alınan ve alınması gereken bir risk. Yapay zeka modellerinin güvenli olduğundan, sürekli değerlendirildiğinden ve piyasaya sunulduktan sonra da izlendiğinden emin olmalıyız.” ifadelerini kullandı.
KÜRESEL TEKNOLOJİ ŞİRKETLERİ AB KURALLARINI DİKKATE ALIYOR
Virkkunen, küresel teknoloji şirketleri ile diğer aktörlerin Avrupa Birliği tarafından belirlenen kuralları dikkate aldığını ifade etti.
Yapay zekadan kaynaklanan tehditlere karşı korunmada uluslararası işbirliğinin en önemli araçlardan biri olduğunu da vurguladı.
İNSAN DENETİMİ HER AŞAMADA KORUNMALI
AB Komisyonu Başkan Yardımcısı Virkkunen, teknolojik gelişmenin hangi aşamasında olunursa olunsun insan denetiminin korunmasının önemini yineledi.
Virkkunen’e göre yapay zekanın gelişimi sürerken güvenlik mekanizmalarının devamlı biçimde uygulanması, modellerin değerlendirilmesi ve kontrolün insanda kalması gerekiyor.