OpenAI'dan AB kararı: ChatGPT metinlerine görünmez filigran geliyor

OpenAI, yapay zeka sistemlerinde şeffaflığa yönelik düzenlemeler sıkılaşırken Avrupa Birliği’nin yeni kurallarına uyum planını duyurdu. Şirket, Anthropic’in bu yılın başlarında attığı adımı izleyerek AB sınırları içinde üretilen metin vekod çıktılarına görünmez dijital filigran eklemeye başlayacak. Yapay zeka tarafından oluşturulan içeriklerin tespitini kolaylaştırmayı amaçlayan uygulama, yasal yükümlülükler doğrultusunda geliştiriliyor.

İSTATİSTİKSEL FİLİGRAN TEKNOLOJİSİ 

textGrain, modelin kelime seçimlerine görünmez bir istatistiksel sinyal yerleştiriyor. Özel tespit yazılımları, bu sinyalden yararlanarak metnin yapay zeka tarafından üretildiğini doğrulayabiliyor. OpenAI, sistemin metin tespitinde kullanılan SynthID gibi diğer sektör standartlarının performansına ulaştığını veya bunları aştığını belirtiyor.

Ancak günlük kullanımda yüzde 100 güvenilirlik garantisi verilemeyeceğini de vurguluyor. Şirkete göre kısa metinlerde, matematiksel içeriklerde ve değiştirilmiş taslaklarda tespit başarısı yaklaşık yüzde 80’e düşüyor. OpenAI, teknolojinin geliştirilmesine katkı sağlamak için textGrain’i açık kaynaklı olarak sunmayı planlıyor.

KAPSAM VE GİZLİLİK 

Filigran uygulaması, varsayılan olarak yalnızca Avrupa Birliği’ndeki uygun ChatGPT ve Codex metin çıktılarında etkinleştirilecek. Kurumsal müşterilere ve küresel kullanıcılara sunulacak modellerde tercihe bağlı esneklikler tanınacak.

OpenAI, filigranlı metinleri belirleyecek tespit aracına erişimi ise ilk aşamada onaylı araştırmacılar ve uzman kuruluşlarla sınırlandıracak. Şirket, tespit sisteminin kullanıcı kimliklerini, yazılan komutları veya konuşma geçmişini hiçbir şekilde açığa çıkarmayacağını bildirdi.

2 ARALIK TAKVİMİ 

AB Yapay Zeka Yasası’nın 50. Maddesi, üretken yapay zeka sağlayıcılarının çıktılarını makine tarafından okunabilir biçimde tanımlanabilir hale getirmesini zorunlu kılıyor. Pazara yeni giren girişimler için doğrudan uygulanan kural, mevcut sağlayıcılara geçiş süresi tanıyor.

OpenAI, Anthropic, Microsoft, Google ve Meta gibi şirketlerin 2 Aralık’a kadar uyum sağlaması gerekiyor. Bu adımlar, yapay zeka kaynaklı dezenformasyonun önlenmesi ve dijital içeriklerin telif süreçlerinin şeffaflaştırılması açısından önemli bir dönüm noktası olarak değerlendiriliyor.