OpenAI, Pazartesi günü yayımladığı yeni verilerle, ChatGPT kullanıcılarının önemli bir bölümünün akıl sağlığı sorunlarıyla mücadele ettiğini ve yapay zeka sohbet robotuyla bu konular hakkında konuştuğunu gözler önüne serdi. Şirket, belirli bir haftada ChatGPT'nin aktif kullanıcılarının yüzde 0,15'inden fazlasının "potansiyel intihar planlaması veya niyetine dair açık göstergeler içeren konuşmalar" yaptığını belirtti.
ChatGPT'nin haftalık 800 milyondan fazla aktif kullanıcısı olduğu düşünüldüğünde, bu oran her hafta bir milyondan fazla kullanıcıya karşılık geliyor.
DUYGUSAL BAĞIMLILIK VE PSİKOZ
Şirket, benzer bir kullanıcı yüzdesinin "ChatGPT'ye karşı yüksek düzeyde duygusal bağlanma" gösterdiğini ve yüz binlerce kişinin yapay zeka sohbet robotuyla yaptıkları haftalık görüşmelerde psikoz veya mani belirtileri gösterdiğini ifade etti. OpenAI, bu tür konuşmaların modellerde ‘son derece nadir’ olmasına rağmen, haftalık bazda yüz binlerce kişiyi etkilediğini tahmin ediyor.
OpenAI, bu bilgileri, modellerin akıl sağlığı sorunları olan kullanıcılara nasıl yanıt verdiğini iyileştirmeye yönelik son çalışmalarını duyurmanın bir parçası olarak paylaştı. Şirket, ChatGPT üzerindeki son çalışmalarının 170'ten fazla akıl sağlığı uzmanıyla istişare içerdiğini iddia etti. Bu uzmanların, ChatGPT'nin en son sürümünün "önceki sürümlere göre daha uygun ve tutarlı yanıt verdiğini" gözlemlediği belirtildi.
HUKUKİ VE VAROLUŞSAL BASKI
Yapay zeka sohbet robotlarının akıl sağlığı sorunlarıyla mücadele eden kullanıcıları nasıl olumsuz etkileyebileceğine dair son aylarda birçok haber ortaya çıkmıştı. Araştırmacılar, yapay zeka sohbet robotlarının, dalkavukluk davranışlarıyla tehlikeli inançları pekiştirerek, bazı kullanıcıları sanrısal tavşan deliklerine sürükleyebileceğini daha önce keşfetmişti.
ChatGPT'deki akıl sağlığı sorunlarının ele alınması, OpenAI için hızla varoluşsal bir sorun haline geliyor. Şirket, intiharından önceki haftalarda intihar düşüncelerini ChatGPT'ye itiraf eden 16 yaşındaki bir çocuğun ebeveynleri tarafından dava ediliyor. Kaliforniya ve Delaware eyalet başsavcıları da OpenAI'yi, ürünlerini kullanan gençleri koruması gerektiği konusunda uyardı.
YENİ MODELDE İYİLEŞME İDDİASI
OpenAI CEO'su Sam Altman, daha önce yaptığı bir paylaşımda şirketin ChatGPT'deki "ciddi ruh sağlığı sorunlarını hafifletebildiğini" iddia etmişti. Pazartesi günü paylaşılan yeni veriler, sorunun yaygınlığını gösterse de, Altman'ın bu iddiasını destekler nitelikte görünüyor. OpenAI, Pazartesi günkü duyurusunda, yeni güncellenen GPT-5 sürümünün, önceki sürüme kıyasla akıl sağlığı sorunlarına yaklaşık yüzde 65 daha fazla "istenilen tepkiler" verdiğini iddia etti. Yapay zekanın intiharla ilgili konuşmalar hakkındaki tepkilerini test eden bir değerlendirmede, yeni GPT-5 modelinin şirketin istenen davranışlarıyla yüzde 91 uyumlu olduğu, önceki GPT-5 modelinin ise yüzde 77 uyumlu olduğu belirtildi.
Şirket ayrıca, ChatGPT kullanan çocukların ebeveynleri için daha fazla kontrol uygulamaya koyduğunu ve çocukları otomatik olarak tespit etmek ve daha sıkı güvenlik önlemleri uygulamak için bir yaş tahmin sistemi geliştirdiğini belirtti. Ancak, GPT-4o da dahil olmak üzere eski ve daha az güvenli yapay zeka modellerinin milyonlarca ücretli abonenin kullanımına sunulmaya devam etmesi, sorunun kalıcılığı hakkında belirsizlik yaratıyor.
