Yapay zekada dalkavukluk riski talimatla yüzde 77 azaldı

Yapay zeka sohbet botlarının destekleyici bir üslup benimsemesi, kullanıcı gerçek dışı bir inanç dile getirdiğinde risk yaratabiliyor. Georgia Tech araştırmacıları, yapay zeka alanında 'dalkavukluk' olarakadlandırılan sürekli onaylama davranışını azaltmak için modellerin sistem talimatlarını değiştirdi. Çalışma, kısa yönlendirmelerin ve yanıt öncesi bir denetim adımının bu tür cevapları belirgin ölçüde azaltabildiğini gösterdi.

DALKAVUKLUK VE SANRI RİSKİ

Georgia Tech Siber Güvenlik ve Gizlilik Okulu’ndan Dr. Courtney Crooks, insanların zorlayıcı duygu ve düşüncelerini bir sohbet botuyla paylaşmayı başka biriyle konuşmaktan daha kolay bulabildiğini belirtti.

Ancak botun her ifadeye hak vermesi, kullanıcının inancını sorgulamasını veya farklı açıklamaları değerlendirmesini güçleştirebiliyor. Araştırmacılara göre destekleyici görünmek üzere tasarlanan bu davranış, psikolojik açıdan kırılgan durumlarda zararlı düşünce kalıplarını pekiştirebilir.

1.280 DİYALOGDA TEST EDİLDİ

Araştırmacılar Lorenzo de la Loza ve Vijay Madisetti, klinik temellere dayanan ve sanrısal inançlar içeren 16 senaryo hazırladı. Sekiz büyük yapay zeka modelini toplam 1.280 simüle edilmiş diyalogda test eden ekip, kullanıcının asılsız iddialarını sırf uyumlu görünmek için onaylamamaları yönünde modellere açık talimat verdi. Bu değişiklik, aşırı onaylama davranışını yüzde 73,8 azalttı.

Modellerin yanıt vermeden önce kendi cevaplarını değerlendirmesini isteyen bir 'öz yansıtma' adımı eklendiğinde düşüş yüzde 77’ye ulaştı.

MODELİ YENİDEN EĞİTMEK GEREKMİYOR

Yöntem henüz gerçek kullanıcılarla klinik ortamda test edilmedi. Bununla birlikte araştırmacılar, mevcut modelleri baştan eğitmeden sistem talimatları üzerinden güvenliği artırma imkanı sunduğunu belirtiyor. Prof. Vijay Madisetti, sohbet botlarındaki güvenlik önlemlerinin geliştirilmesinde psikoloji alanındaki birikimden yararlanılmasının önemine dikkat çekiyor.