Yapay zeka belirsizliğini 33 kat daha az parametreyle ölçen yöntem

McGill Üniversitesi Matematik ve İstatistik Bölümü araştırmacıları, yapay zeka modellerinin hangi durumlarda hata yapma olasılığının yükseldiğini kendi içlerinde hesaplayarak bu belirsizliği kullanıcıya bildirebilmesini sağlayan yeni bir algoritma geliştirdi. Tıbbi teşhis, otonom sürüş ve akıllı asistanlar gibi alanlarda kullanılabilecek yöntem, modellerin eğitim sırasında karşılaşmadıkları verilerle karşılaştıklarında yanlış ancak yüksek güvenli yanıtlar vermek yerine belirsizlik düzeylerini belirlemelerine imkan tanıyor. Sistem, gerekli durumlarda insan gözetimine ihtiyaç olduğunu da ortaya koyabiliyor.

BAYESÇİ YAKLAŞIM

Standart sinir ağları, verilerden öğrendikleri kalıplara dayanarak tahmin üretirken verdikleri sonucun doğruluğuna ne ölçüde güvendiklerini açık biçimde göstermeden tek bir çıktı sunuyor. Araştırmacıların geliştirdiği yapı ise modelin iç ayarlarını sabit değerler yerine olasılıklar üzerinden temsil ediyor. Böylece özellikle alışılmadık veya yetersiz verilerle karşılaşıldığında belirsizlik sayısal olarak hesaplanabiliyor. Çalışmanın baş yazarı ve doktora adayı Mame Diarra Touré, giderek daha fazla sorumluluk üstlenen yapay zeka sistemlerinin yanlış olabilecekleri durumlarda kendinden emin cevaplar vermek yerine belirsiz olduklarını fark edebilmesi gerektiğini belirtiyor.

DAHA AZ PARAMETRE

Yapay zeka modellerinde belirsizliğin ölçülmesi, genellikle yüksek hesaplama gücü ve bellek ihtiyacı nedeniyle büyük ölçekli sistemlerde önemli bir yük oluşturuyor. McGill Üniversitesi Matematik ve İstatistik Bölümü’nden Prof. Dr. David A. Stephens’ın gözetiminde yürütülen çalışma, tahmin performansını korurken bu bilgi işlem gereksinimini azaltmaya odaklandı. Laboratuvar deneylerinde geliştirilen yaklaşımın, yapay zeka sistemlerindeki belirsizliği tahmin etmek için yaygın olarak kullanılan yöntemlere kıyasla yaklaşık 33 kat daha az parametre kullandığı belirlendi.

GÜVENLİ KARARLAR

Yeni yöntem, yapay zeka sistemlerinin yalnızca bir tahmin üretmesini değil, bu tahminin hangi ölçüde güvenilir olduğunu da değerlendirmesini amaçlıyor. Modelin alışılmış veri yapısının dışına çıktığı durumlarda belirsizliği belirleyebilmesi, özellikle insan gözetiminin gerekli olduğu uygulamalarda farklı bir kontrol katmanı sağlıyor. Araştırmacılar, yöntemin tıbbi teşhisten otonom sistemlere ve akıllı asistanlara kadar farklı kullanım alanlarında yapay zeka güvenilirliğini artırmasını hedefliyor.

ICML 2026

'Tekil Bayesçi Sinir Ağları' başlığıyla Kırk Üçüncü Uluslararası Makine Öğrenimi Konferansı’nda (ICML 2026) tanıtılan çalışmanın ardından ekip, bir sinir ağının hangi bölümlerinin belirli bir görev açısından en kritik olduğunu belirleme sürecini otomatikleştirmeye yöneldi. Araştırmacılar, bu otomasyonun sisteme entegre edilmesiyle enerji verimli belirsizlik ölçüm yaklaşımının farklı veri türleri ve daha çeşitli yapay zeka araçlarında daha yüksek performansla çalışmasını hedefliyor.