ABD’de ruh sağlığı danışmanlığı alanında yapay zeka (AI) tabanlı sohbet robotlarının kullanımına yönelik eyalet temelli düzenlemeler hızlandı. Illinois ve Nevada, akıl sağlığı tedavisinde YZ kullanımını yasakladı; Utah ise terapi botlarına, sağlık verilerinin korunması ve botun insan olmadığının açık belirtilmesi gibi özel sınırlamalar getirdi. Pensilvanya, New Jersey ve Kaliforniya düzenleme seçeneklerini tartışırken, sektörde parçalı bir hukuk haritası oluştu.
PARÇALI MEVZUAT TABLOSU
Yeni mevzuat, AI yazılımlarının hızla değişen doğasını tam karşılamıyor. Uygulama geliştiricileri, politika yapıcılar ve savunucular, ortaya çıkan karmakarışık eyalet yasalarının kullanıcıyı yeterince korumadığını ve zararlı teknolojilerin sahiplerini hesap verebilir kılmadığını dile getiriyor. Ruh sağlığı sohbet robotu Earkick’in CEO’su ve kurucu ortağı Karin Andrea Stephan, milyonlarca kişinin bu araçları bırakmayacağını, dolayısıyla düzenlemenin gerçek kullanım üzerinden şekillenmesi gerektiğini vurguladı.
FEDERAL ADIMLAR GÜNDEMDE
Federal Ticaret Komisyonu (FTC), bu ay Instagram ve Facebook’un sahibi Meta, Google, ChatGPT, Grok (X), Character.AI ve Snapchat dahil yedi sohbet robotu şirketine, “teknolojinin çocuklar ve gençler üzerindeki olumsuz etkilerini nasıl ölçtükleri, test ettikleri ve izledikleri” hakkında soruşturma başlattı. Gıda ve İlaç Dairesi (FDA) de 6 Kasım’da üretken AI destekli ruh sağlığı cihazlarını incelemek üzere danışma komitesi toplayacak.
Amerikan Psikoloji Derneği’nden Vaile Wright, AI uygulamalarının sağlayıcı yetersizliği, yüksek maliyet ve eşitsiz erişim sorunlarına pratik katkı sağlayabileceğini, ancak bunun için bilime dayalı, uzman katkılı ve insan denetimli sistemlerin şart olduğunu belirtti; bu çerçevede kapsamlı federal düzenleme ve denetimin gerekliliğini dile getirdi.
TERAPİ Mİ, ARKADAŞLIK MI?
‘Refakatçi uygulamalar’, ‘AI terapistleri’ ve ‘zihinsel sağlık’ uygulamaları gibi muğlak tanımlar, düzenleyici yaklaşımı zorlaştırıyor. Bazı eyaletler, sadece arkadaşlık için tasarlanan uygulamaları hedef almıyor; Illinois ve Nevada ise terapi iddiası taşıyan ürünleri yasaklayarak sırasıyla 10.000 ve 15.000 dolara kadar para cezası öngörüyor. Ancak tek bir uygulamayı bile kategorize etmek zor.
Earkick cephesinde, Stephan Illinois yasasının ‘çok bulanık’ kaldığını, bu nedenle eyalette erişimi sınırlamadıklarını söyledi. Ekip, botu başlangıçta “terapist” olarak sunmadı; kullanıcı aramalarında bulunmak için bir süre bu kavramı kullandı, geçen hafta terapi ve tıbbi terimleri yeniden siteden çıkardı. Uygulama artık kendini ‘kendi kendine bakım için sohbet robotu’ olarak tanımlıyor; teşhis koymadığını, krizde acil hat yerine kişisel ‘panik butonu’ yapılandırmasına ve kötüleşen durumda insan terapiste yönlendirmeye odaklandığını belirtiyor.
YASAKLARIN ANLIK ETKİSİ
Bazı uygulamalar, yasaklı eyaletlerde erişimi kesti. Illinois’te Ash isimli bir AI terapi uygulamasını indiren kullanıcılar, ‘yanlış yönlendirilmiş mevzuatın’ Ash’i yasaklarken düzenlenmemiş sohbet botlarının zarar vermesine alan açtığını savunan bir mesajla milletvekillerine e-posta atmaya davet ediliyor. Şirket sözcüsü, çok sayıda röportaj talebine yanıt vermedi.
Illinois Mali ve Mesleki Düzenleme Dairesi Sekreteri Mario Treto Jr., hedeflerinin terapinin yalnızca lisanslı terapistler tarafından verilmesi olduğunu belirtti; terapinin empati, klinik yargı ve etik sorumluluk gerektirdiğini, AI’nin bunları taklit edemediğini söyledi.
BİLİMSEL KANIT ARAYIŞI
Dartmouth Üniversitesi merkezli ekip, Mart ayında, ruh sağlığı tedavisi için üretken AI sohbet robotu üzerine bilinen ilk randomize klinik çalışmayı yayımladı. Therabot adlı bot, kısa öykü ve metinlerle kanıta dayalı müdahaleye göre eğitildi. Sekiz hafta sonunda botu kullananlarda anksiyete/depresyon belirtilerinde anlamlı azalma görüldü; her etkileşim, yanıtların zararlı veya kanıta dayalı olup olmadığını değerlendiren insan denetimi altında ilerledi.
Klinik psikolog Nicholas Jacobson, bulguların umut verici olduğunu, ancak geniş ölçekli çalışmalar gerektiğini belirtti; katı yasakların, dikkatli ilerleyen geliştiricileri de olumsuz etkileyebileceğini, Illinois’in ise bir uygulamanın güvenli ve etkili olduğuna dair kanıt sunum yolunu netleştirmediğini söyledi.
KAMU YARARI–YENİLİK DENGESİ
Düzenleyiciler değişime açık olduklarını ifade ederken, Ulusal Sosyal Hizmet Uzmanları Derneği ile bağlantılı, Illinois ve Nevada’da yasa tasarılarına lobi yapan Kyle Hillman, bugünkü sohbet botlarının sağlayıcı açığına çözüm olmadığını savundu. Hillman, “Herkesin terapiste ihtiyacı olmayabilir; ancak ciddi ruhsal sorun veya intihar düşünceleri olan kişilere ‘iş gücü açığı var, işte bir robot’ demek yanlış bir yaklaşım” değerlendirmesinde bulundu.
FEDERAL STANDART İHTİYACI
Uzmanlar, pazarlama sınırları, bağımlılık tasarımının kısıtlanması, botların insan olmadığına dair açık bilgilendirme, intihar düşüncelerinin izlenip bildirilmesi ve ihbarcı koruması gibi başlıklarda federal standart çağrısı yapıyor. Genel amaçlı modeller (ör. ChatGPT) çoğu eyalet yasasının dışında kaldığından, genel sohbet botlarının da asgarî güvenlik ve etik çerçevesine alınması isteniyor.
