Yapay zeka alanında yeni bir modelin daha hızlı, daha yetenekli ya da daha otonom olması artık tek başına başarı ölçütü sayılamaz.
Modelin yapabildikleri artarken kurumların onu sınama, gerektiğinde durdurma ve ortaya çıkan sonuçların sorumluluğunu üstlenme kapasitesi aynı hızda gelişmiyorsa, ortada bir yönetim açığı vardır.
Bu gerilim, 23 Eylül'de Birleşmiş Milletler Güvenlik Konseyi'ndeki yapay zeka oturumunda açık biçimde görüldü. OpenAI Üst Yöneticisi Sam Altman, bir yol ayrımından söz etti. Anthropic Üst Yöneticisi Dario Amodei, sistemlerin kötüye kullanılması ve kontrol edilememesi risklerini öne çıkardı. Hugging Face Üst Yöneticisi Clément Delangue ise saldırılara karşı savunma yapabilmek için bilgi paylaşımının ve erişilebilir araçların önemini vurguladı. Ortak kaygıları artan kapasiteydi; hangi önlemlerin daha etkili olacağı konusunda aynı noktada değillerdi.
Bu tartışma, ilk bakışta dünyanın en gelişmiş modellerini üreten birkaç şirketi ilgilendiriyor gibi görünebilir. Oysa benzer bir sorun, çok daha küçük ölçekte her kurumun önünde duruyor. Bir yapay zeka uygulaması müşteriye yanıt hazırladığında hata başka, müşteriye yanıtı kendi gönderdiğinde başka sonuç doğurur. İlkinde çalışan metni inceleyebilir. İkincisinde yanlış bilgi, uygunsuz bir taahhüt veya hassas verinin paylaşılması, fark edildiğinde çoktan gerçekleşmiş olabilir. Aradaki fark yalnızca teknolojinin gücü değil, sisteme verilen eylem yetkisidir.
YETKİ ARTARKEN DENETİM DE ARTMALI
Bugün birçok işletme yapay zekayı önce içerik taslağı, özet veya analiz için kullanıyor. Bu aşamada temel soru çıktının doğruluğu. Uygulama bir sonraki aşamada şirketin e-postasına, müşteri kayıtlarına, satın alma sistemine veya ödeme araçlarına bağlandığında soru değişiyor: Hangi işlemi kendi başına yapabilir, hangisi için insan onayı gerekir?
Her adımı bir yöneticiye onaylatmak da çözüm değil. Bu yöntem düşük riskli işlerde verimi ortadan kaldırır. Buna karşılık kritik işlemleri bütünüyle otomatikleştirmek, hatanın etkisini büyütebilir. Kurumun ihtiyacı, görevleri sonuçlarına göre ayırmaktır. Bir toplantı özetini hazırlamak ile müşteriye fiyat taahhüdü vermek, aynı yetki düzeyinde olmamalı. Taslak hazırlama, öneride bulunma ve dış dünyada işlem yapma ayrı izinler gerektirir.
Bu ayrımın çalışabilmesi için üç sorunun yanıtı önceden belli olmalı: Yapay zeka hangi veriye erişebilir? Hangi eylemi insan onayı olmadan yapabilir? Bir hata olduğunda ne yaptığını nasıl görecek ve işlemi nasıl durduracağız? Bu sorulara cevap verilmemişse, teknolojiyi kullanıma açmak kuruma henüz yönetemediği bir yetki vermek anlamına gelir.
Örneğin bir satın alma ekibinde sistem, teklifleri karşılaştırıp olası tedarikçileri sıralayabilir. Tedarikçiye sipariş geçmesi içinse bütçe sınırı, yetkili kişi ve kayıt zorunluluğu tanımlanmalıdır. Aynı ilke müşteri hizmetleri ve insan kaynaklarında da geçerli. Kurumlar bu sınırları yazılımın varsayılan ayarlarına bıraktığında, kendi karar yetkilerini de farkında olmadan dışarıya taşımış olur. Bu nedenle yetki tasarımı yalnızca bilgi işlem biriminin işi sayılamaz; ilgili iş biriminin ve yönetimin de kararıdır.
Uluslararası düzeyde önerilen çözüm de henüz tek bir reçete değil. Altman, ortak değerlendirme ölçütleri ve olay bildirimi istiyor. Amodei, bağımsız değerlendirme ve doğrulamayı öne çıkarıyor. Delangue ise açık araçlara erişimin savunma için önemini savunuyor. Bu görüşlerin sahipleri aynı zamanda pazarın aktörleri. Önerilerini ciddiye almak gerekir; onları bağımsız denetimin yerine koymak doğru olmaz.
İş dünyası açısından ders, küresel kuralların tamamlanmasını beklemek değil. Her şirket kendi ölçeğinde, yapay zekaya verdiği yetkiyi görünür ve geri alınabilir kılabilir. Başarılı uygulama sayısını ölçerken kaç işlemin kontrol edilebildiğini, hataların nasıl tespit edildiğini ve son kararın kimde kaldığını da ölçebilir.
Yapay zekadaki yol ayrımı yalnızca daha güçlü sistemler geliştirip geliştirmeyeceğimizle ilgili değil. O sistemlere yetki verirken insanın müdahale edebileceği alanı koruyup koruyamayacağımızla ilgili. Hızın değer ürettiği yerde denetim, ilerlemenin freni değil, güvenilir biçimde sürdürülebilmesinin şartıdır.
Yasal Uyarı: Yayınlanan köşe yazısı/haberin tüm hakları İstanbul Ticaret Gazetesi'ne aittir. Kaynak gösterilse veya habere aktif link verilse dahi köşe yazısı/haberin tamamı ya da bir bölümü kesinlikle kullanılamaz. Ayrıntılar için lütfen tıklayın.