Yapay zeka sistemleri, çoğu zaman insanlara sorulara tutarlı yanıtlar veriyor gibi görünse de, aslında birçok belirsizliğin farkında olmadan çalışabiliyor. Bu durum, özellikle ilaç geliştirme, sürücüsüz araçlar veya kritik altyapı yönetimi gibi yüksek riskli alanlarda ciddi sonuçlara yol açabiliyor.
Massachusetts Institute of Technology (MIT) yan kuruluşu olarak kurulan Themis AI, bu sorunu ele almak üzere yapay zeka modellerinin ne zaman ve neden hata yapabileceğini analiz edebilen bir platform geliştirdi. “Capsa” adlı bu teknoloji, yapay zeka modellerinin belirsizlik düzeyini ölçerek çıktılarının güvenilirliğini değerlendiriyor.
HER MODELLE UYUMLU
Capsa herhangi bir yapay zeka modeline entegre olarak, modelin güvenilmez çıktılar üretme ihtimalini değerlendiriyor ve bu çıktılara müdahale edilmesini sağlıyor. Böylece, eğitim verilerindeki eksiklikler, önyargılar veya anormal örüntüler erken aşamada tespit edilip düzeltilebiliyor.
Themis AI’ın hedefi, yapay zekaların kendi zayıf noktalarını fark edebilmesini sağlamak. Bu sayede sistemler, insanlar için daha güvenilir hale geliyor.
SEKTÖREL DÖNÜŞÜM
Themis AI; telekom, enerji, ilaç, otomotiv ve teknoloji gibi birçok sektördeki şirketle çalışarak yapay zekanın güvenlik ve doğruluk potansiyelini artırmayı hedefliyor. Özellikle büyük dil modelleri (LLM) geliştiren firmalar, sistemlerinin verdiği yanıtların güven seviyesini ölçebilmek için Capsa’yı tercih ediyor.
Capsa aynı zamanda yüz tanıma gibi hassas uygulamalarda da çözüm sunuyor. Eğitim verilerindeki temsiliyet eksikliklerini tespit edip, bu dengesizliği giderici örnek verilerle sistemleri güçlendiriyor.
VERİ ODAKLI İYİLEŞTİRME
Capsa’nın önemli kullanım alanlarından biri de ilaç geliştirme süreçleri. Yapay zeka modelleri, potansiyel ilaç adaylarının performansını klinik deneyler öncesinde değerlendirebiliyor. Capsa, bu tahminlerin ne ölçüde mevcut verilere dayandığını analiz ederek araştırmacılara değerli içgörüler sunuyor.
DÜŞÜK GECİKME, YÜKSEK GÜVEN
Themis AI ekibi, yapay zekanın gömülü sistemlerde çalıştığı durumlar için de çözümler geliştiriyor. Özellikle uzak sistemlerde çalışan küçük modellerin doğruluk oranı daha düşük olabilirken, Capsa bu tür cihazlarda da devreye girerek modellerin ne zaman merkezi sistemlere başvurması gerektiğini belirliyor.
Bu senaryo, düşük gecikme süresi ve enerji verimliliğiyle çalışan ancak yüksek güvenilirlik gerektiren sistemlerde büyük avantaj sağlıyor.
YÜKSEK ETKİLİ UYGULAMALAR
Themis AI, yapay zekanın düşünce zinciri muhakemesi gibi ileri tekniklerde nasıl daha güvenilir hale getirilebileceğini de araştırıyor. Capsa’nın bu tür süreçlerde en tutarlı mantık akışlarını belirlemede faydalı olduğu gözlemlendi.
Bu gelişmeler, büyük dil modellerinin daha az hata yapmasını ve çıktılarının kullanıcılar açısından daha anlaşılır olmasını sağlayabilir.
AKADEMİDEN SAHAYA GEÇİŞ
Themis AI, 2021’de MIT Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı (CSAIL) Direktörü Prof. Daniela Rus ve araştırma ortakları Alexander Amini ile Elaheh Ahmadi tarafından kuruldu. Akademik birikimi teknolojiyle birleştirerek, laboratuvar ortamındaki çözümleri gerçek dünya uygulamalarına taşıyorlar.
Themis AI, yapay zekanın günlük yaşamda daha güvenli, şeffaf ve anlaşılır bir şekilde kullanılmasına yönelik güven inşa etmeyi amaçlıyor.
