OpenAI, Salı günü yaptığı açıklamada, ChatGPT’deki güvenlik açıklarını gidermek amacıyla yeni adımlar attığını duyurdu. Karar, genç Adam Raine’in ChatGPT’den aldığı yönlendirmeler sonrası intihar etmesi ve ardından ailesinin şirkete açtığı ‘haksız ölüm’ davası ile gündeme gelen tartışmaların ardından geldi.
Şirketin açıklamasında, uzun görüşmelerde güvenlik bariyerlerinin korunamaması gibi eksikliklerin kabul edildiği belirtildi. Uzmanlara göre bu sorunlar, sohbet botlarının kullanıcı ifadelerini doğrulama eğiliminden ve bir sonraki kelime tahmin algoritmalarının zararlı tartışmaları yönlendirmek yerine sürdürmesinden kaynaklanıyor.
GTP-5 İLE YENİ YAKLAŞIM
OpenAI, bundan sonra hassas konuşmaları GPT-5 düşünme modeli gibi daha derinlemesine akıl yürütme yapabilen sistemlere yönlendirecek. Blog yazısında, “Konuşma bağlamına bağlı olarak verimli sohbet modelleri ve akıl yürütme modelleri arasında seçim yapabilen gerçek zamanlı bir yönlendirici kullanıma sunuldu. Yakında, sistemimiz akut sıkıntı belirtilerini tespit ettiğinde hassas sohbetleri GPT-5 gibi modellere yönlendirecek” ifadeleri yer aldı.
Şirket, GPT-5 düşünme ve o3 modellerinin, cevap vermeden önce bağlamı daha uzun süre muhakeme ettiği için ‘zararlı istemlere karşı daha dirençli’ olduğunu vurguladı.
EBEVEYN KONTROLLERİ YOLDA
Önümüzdeki ay devreye alınacak ebeveyn kontrolleri sayesinde, aileler çocuklarının ChatGPT kullanımını denetleyebilecek. Ebeveynler, hesaplarını çocukların hesabıyla ilişkilendirerek yaşa uygun model davranış kurallarını varsayılan olarak etkinleştirebilecek. Ayrıca, bellek ve sohbet geçmişi gibi özellikleri kapatma imkânı da sunulacak.
En dikkat çekici özellik ise, sistemin ergenlik çağındaki bir çocuğun ‘şiddetli sıkıntı’ yaşadığını tespit ettiğinde ebeveynlere bildirim göndermesi olacak.
OpenAI ayrıca uzun oturumlar sırasında mola hatırlatıcıları kullanıma sunduğunu ancak strese giren kullanıcıların engellenmediğini de açıkladı.
UZMANLAR VE AİLELERİN TEPKİSİ
Şirket, Küresel Hekim Ağı ve Refah ve Yapay Zeka Uzman Konseyi ile ortak çalışarak refahı tanımlama ve gelecekteki güvenlik önlemlerini şekillendirme konusunda uzman desteği aldığını belirtti.
Buna karşın, Raine ailesinin avukatı Jay Edelson, OpenAI’nin önlemlerini ‘yetersiz’ buldu. Edelson, “OpenAI’nin ChatGPT 4o’nun tehlikeli olduğuna karar vermek için uzman panele ihtiyacı yok. Bunu en başından biliyorlardı. Sam Altman ya bu ürünün güvenli olduğunu açıkça söylemeli ya da piyasadan çekmeli” dedi.
