Yapay zekaya yalan dedektörü geliyor: 'Beyaz kutu' teknolojisiyle şeffaf dönem

Tıbbi tavsiyelerden finansal analizlere kadar pek çok alanda kullanılan yapay zeka sohbet robotlarının iç işleyişi, artan işlem gücüne ve gelişmiş pekiştirmeli öğrenme tekniklerine rağmen geliştiricileri için bile tam olarak anlaşılmış değil. 

Northeastern Üniversitesi Khoury Bilgisayar Bilimleri Fakültesi uzmanları, yanıt üretirken milyarlarca matematiksel hesaplama yapan modelleri çözümlemek için uluslararası bir araştırma girişimi başlattı. Çalışmalar, yapay zekanın 'kara kutu' (black-box) yapısını aydınlatmayı ve şeffaf 'beyaz kutu' (white-box) standartlarını belirlemeyi amaçlıyor.

KARA KUTU SORUNU 

Geleneksel yazılımlardan farklı olarak davranışlarını veriler üzerinden öğrenen yapay zeka sistemleri, kullanıma girdikten sonra komutlara otonom yanıtlar üretiyor. Khoury Bilgisayar Bilimleri Fakültesi Profesörü David Bau, OpenAI veya Anthropic gibi araştırma laboratuvarlarının geliştirdiği modellerin tek bir kelime üretmek için bile milyarlarca hesaplama yaptığını belirtti.

Bau’ya göre bu algoritmaların izini geleneksel yöntemlerle sürmek mümkün değil. Prof. Byron Wallace ise iç mekanizması anlaşılmadan kullanılan modellerin çıktılarının, özellikle sağlık ve finans alanlarında kullanıcıları tehlikeli durumlarla karşı karşıya bırakabileceğine dikkat çekti.

YANILTICI YANITLARA DENETİM 

Modelleri şeffaf ve anlaşılır hale getirmeyi amaçlayan beyaz kutu yaklaşımının, yapay zeka için bir tür 'yalan dedektörü' işlevi görmesi öngörülüyor. Prof. David Bau liderliğindeki araştırmalar, sistemlerin ikna edici ancak yanıltıcı bilgi ürettiği, bilgiyi gizlediği veya kullanıcıya 'onaylama eğilimi' (sycophancy) gösterdiği durumları belirlemeye odaklanıyor.

Sinir ağı aktivitelerindeki yanıltıcı kalıpları tespit edecek sistemin, kullanıcının ne zaman kandırıldığını ya da yönlendirildiğini eş zamanlı olarak ekrana yansıtması hedefleniyor.

ULUSLARARASI ARAŞTIRMA AĞI 

Ulusal Derin Çıkarım Yapısı (NDIF) bünyesindeki çalışmalarda, yapay zekanın sinir ağları teorik bir MRI, yani emar incelemesine benzer biçimde ele alınıyor. Açık kaynaklı modeller ve NNsight adlı yazılım kütüphanesiyle, model yanıt verirken nöronların nasıl etkinleştiği anbean haritalandırılıyor.

Bu araştırmaları küresel bir standarda taşımak için Northeastern Üniversitesi öncülüğünde kurulan Uluslararası Yorumlanabilir Yapay Zeka Konsorsiyumu (ICINAi), dünya genelinden 40’tan fazla kıdemli akademisyeni bir araya getirdi.

Üyeler, test yöntemlerini, hesaplama kaynaklarını ve açık modelleri paylaşarak çalışmaları hızlandıracak.

GÜVENİLİR KULLANIM HEDEFİ 

Khoury Bilgisayar Bilimleri Fakültesi Dekanı Beth Mynatt, ICINAi’nin yapay zekanın gelişimini durdurmayı amaçlamadığını belirtti. Mynatt, hedeflerinin teknolojinin gelişme hızı ile insanların bu konudaki sınırlı anlayışı arasındaki uçurumu kapatmak olduğunu ifade etti.

Prof. Wallace da tıp uzmanları ve klinisyenlerin, yapay zekanın bir tanıya veya sonuca nasıl ulaştığını tam olarak anlayabilmesinin önemini vurguladı. Wallace, yorumlanabilirlik araçlarıyla sağlık hizmetlerindeki ırksal önyargıların ve gizli amaçların eleneceğini söyledi.

DNA’nın işlevini çözmek için yürütülen onlarca yıllık temel araştırmalara benzetilen süreçle, yapay zekanın topluma güvenli ve etik biçimde hizmet etmesinin güvence altına alınması hedefleniyor.