Robotlarda yapay zeka arka kapısı: Tetikleyici kelimeler tehlike yaratıyor

Binghamton Üniversitesi Thomas J. Watson Mühendislik ve Uygulamalı Bilimler Fakültesi araştırmacıları, robotların görev planlamasında kullanılan büyük dil modellerindeki güvenlik risklerini inceledi. Bilgisayar Bilimleri Bölümü’nden Dr. Adnan Siraj Rakin, Doç. Dr. Shiqi Zhang ve doktora öğrencilerinin hazırladığı iki çalışma, 2026 IEEE/RSJ Uluslararası Akıllı Robotlar ve Sistemler Konferansı’nda sunuldu. Bulgular, modellerdeki gizli tetikleyicilerin endüstriyel kollardan hizmet robotlarına kadar farklı sistemlerin görevlerinden sapmasına yol açabileceğine işaret etti.

MUTRAP İLE DENEME 

Ekip, çoklu tetikleyicili bir Truva atı saldırısı olarak tasarladığı MuTRAP yöntemini Segway tabanlı mobil robotta denedi. Plastik meyve kesme senaryosunda robot, normal elma kesme talimatını başarıyla yerine getirdi.

Ancak komutun sonuna, modele önceden işlenmiş 'CF' tetikleyicisi eklendiğinde görev planı değişti. Robot, elma yerine yapay bir el maketini kesmeye yöneldi.

HAZIR MODELLERDE RİSK 

Rakin, saldırganın modele doğrudan erişmesinin gerekmediğini, model mimarisini bilmesinin yeterli olabildiğini belirtti. Robotik şirketlerinin önemli bölümünün kendi modellerini eğitmek yerine üçüncü tarafların hazır modellerini kullandığına dikkat çekti.

Bu tedarik yapısının, araştırmada gösterilen türden saldırıları uygulanabilir bir güvenlik riski haline getirdiğini ifade etti.

PROTEA İLE DENETİM 

Araştırmacılar, zararlı planları belirleyip engellemek amacıyla dil modeli tabanlı PROTEA mekanizmasını geliştirdi. Sistem, görev planındaki her adımı değişen çevre koşullarıyla birlikte değerlendiriyor. Tek başına zararsız görünen ancak sonraki eylemlerle birleştiğinde zarar doğurabilecek adımları da inceliyor.

Örneğin bir ilacın karton kutuya konulmasının ardından kutunun çöpe atılmasını öngören planı tespit ederek engelliyor. Zhang, sistemin zararlı ve zararsız planları ayırmada başarılı olduğunu belirtti. Ekip, sonraki çalışmalarında robot denetleyicileri ve algılama sistemlerindeki güvenlik açıklarına odaklanmayı hedefliyor.