MIT’den üretken yapay zeka için katı güvenlik algoritması: HardFlow

MIT Makine Mühendisliği Bölümü ile Veri, Sistemler ve Toplum Enstitüsü’nden (IDSS) araştırmacılar, üretken yapay zeka modellerinin katı güvenlik ve fizik kuralları altında çalışmasını sağlayan yeni bir algoritma geliştirdi. Navid Azizan liderliğindeki ekip tarafından geliştirilen HardFlow, modellerin üretim sürecindeki her ara adımını sınırlandırmak yerine nihai çıktının belirlenen kısıtlamaları karşılamasını esas alıyor.

Stable Diffusion ve FLUX gibi üretken modellerle kullanılabilen yöntem, yeniden eğitim gerektirmeden mevcut sistemlere eklenebiliyor. Çalışma, IEEE Transactions on Pattern Analysis and Machine Intelligence dergisinde yayımlandı.

KATI KISITLAR

HardFlow’un temel amacı, hata toleransının düşük olduğu robotik ve endüstriyel otomasyon uygulamalarında üretken modellerin çıktılarının önceden tanımlanmış kurallara uymasını sağlamak. Geleneksel yöntemlerde modelin üretim sürecindeki ara adımları da belirli sınırlar içinde tutulurken, HardFlow kısıtları doğrudan nihai çözüme uyguluyor.

Böylece üretken modelin geniş çözüm alanını kullanması korunurken, sonuçta fiziksel veya güvenlik açısından kabul edilemeyecek çıktılar eleniyor. Bu yaklaşım, fabrikalardaki otonom araçlardan süreç kontrol sistemlerine kadar farklı kullanım alanlarında güvenlik koşullarının modele sonradan eklenebilmesine imkan tanıyor.

YÖRÜNGE OPTİMİZASYONU

Araştırmacılar, optimal kontrol teorisinden yararlanarak kısıtlı örnekleme sürecini bir yörünge optimizasyonu problemi olarak ele aldı. Büyük sinir ağı yapılarını daha küçük ve çözülebilir alt problemlere ayıran algoritma, model çıktısını adım adım istenen kısıtlara yaklaştırıyor. Mevcut izdüşüm tabanlı yöntemlerin robotik kolları gereğinden fazla sınırlandırarak uzun ve verimsiz rotalara yönlendirebildiği durumlarda HardFlow, hem engellerle çarpışmayı önlemeyi hem de hareket mesafesini azaltmayı birlikte optimize ediyor.

Süreç boyunca yapılan küçük yönlendirme düzeltmeleri, robotik manipülasyon ve bilgisayarlı görü gibi uygulamalarda daha verimli çözümler üretilmesini sağlıyor.

TAK-ÇALIŞTIR YAPI

HardFlow’un dikkat çeken özelliklerinden biri, mevcut üretken yapay zeka altyapılarına model yeniden eğitilmeden eklenebilmesi. Tak-çalıştır olarak tanımlanan bu yapı, sanayi şirketlerinin ve otonom sistem geliştiricilerinin kullandıkları temel modelleri değiştirmeden yeni güvenlik kısıtları uygulamasına imkan veriyor.

Üretken modelin farklı çözümler arama kabiliyeti korunurken, gerçek dünyadaki zorunlu emniyet kuralları çıktı seviyesinde uygulanıyor. Robotik üretim hatlarında çalışanlara veya çevredeki ekipmanlara yönelik risklerin sınırlandırılması da bu katı kısıtlama yaklaşımının başlıca kullanım alanları arasında yer alıyor.

FARKLI UYGULAMALAR

Araştırmacılar HardFlow’u yalnızca robotik hareket planlamasında değil, metin yönlendirmeli görüntü düzenleme ve labirentlerde rota belirleme gibi farklı görevlerde de test etti. Sistem, üretken modelin sunduğu çözüm çeşitliliğini korurken çıktının önceden tanımlanan koşulları karşılamasını sağladı.

Bu yapı, bilgisayarlı görüden otonom lojistiğe kadar farklı alanlarda aynı temel yaklaşımın kullanılabileceğini gösteriyor. Katı kısıtların modele doğrudan yeniden eğitim yoluyla kazandırılması yerine örnekleme aşamasında uygulanması, mevcut yapay zeka sistemlerinin daha esnek biçimde uyarlanmasına imkan veriyor.

DİNAMİK HEDEF

MIT ekibi, HardFlow’un sonraki aşamalarda yapay zeka modeliyle eş zamanlı olarak güncellenebilen dinamik ortamlara uyarlanmasını hedefliyor. Böyle bir yapı, çevre koşullarının veya güvenlik sınırlarının sürekli değiştiği akıllı fabrika ve otonom lojistik uygulamalarında algoritmanın yeni koşullara göre kendini yeniden ayarlamasını sağlayabilir.

Araştırmacılar, yöntemin üretken yapay zekanın yalnızca yaklaşık olarak doğru sonuçlar vermesi yerine belirlenen fiziksel ve güvenlik koşullarını karşılayan çıktılar üretmesine yönelik bir çerçeve sunduğunu belirtiyor.