Google, SynthID ile yapay zeka içeriklerinin doğrulanmasını herkese açtı

Yapay zeka ile üretilen görsel, video ve ses içeriklerinin internette yaygınlaşması, medya doğrulamasını ve sahte içeriklerin tespitini giderek daha önemli hale getiriyor. Google, bu içeriklere yerleştirilen görünmez filigranları tespit etmek için geliştirdiği SynthID doğrulama aracını SynthID.com üzerinden tüm kullanıcıların erişimine sunduğunu duyurdu. 

Daha önce sınırlı sayıdaki test kullanıcısına veya Gemini sohbet robotu üzerinden yapılan kontrollere açık olan sistem, artık bağımsız bir web platformunda hizmet verecek.

ORTAKLARIN FİLİGRANLARINI TANIYOR 

SynthID, yapay zeka ile oluşturulan görsel ve videoların piksellerine, ses dosyalarının ise frekans ve dalga yapılarına insan gözüyle veya kulağıyla algılanamayan dijital sinyaller yerleştiriyor. Google, Gemini altyapısıyla üretilen 180 milyardan fazla görsel ve videoya, ayrıca toplam süresi 240 bin yıla ulaşan ses kayıtlarına SynthID filigranı eklendiğini bildirdi.

Yeni doğrulama platformu, Google dışındaki ortakların sistemlerini de kapsıyor. OpenAI’ın ChatGPT platformu ile Nvidia ve Kakao’nun ürettiği filigranlar tanınırken, Apple’ın da yakında altyapıya dahil edilmesi planlanıyor. Böylece kullanıcılar, desteklenen farklı yapay zeka araçlarının içeriklerini ayrı sistemler yerine aynı web sitesi üzerinden kontrol edebilecek.

GÜNLÜK KONTROL SINIRI 

SynthID.com’u kullanmak için Google, OpenAI veya Apple hesabıyla giriş yapılması gerekiyor. Google mühendislerinin verdiği bilgiye göre kullanıcı başına günde yaklaşık 10 görsel, video veya ses dosyası kontrolü yapılabiliyor.

Bu sınır, kötü niyetli kişilerin doğrulama aracından yararlanarak filigran kaldırma algoritmaları geliştirmesini önlemeyi amaçlıyor. Benzer görsellerin art arda sorgulanması halinde güvenlik mekanizmaları devreye girerek günlük erişim sınırını daha erken düşürebiliyor.

FİLİGRAN TESPİTİNİN SINIRLARI 

Uzmanlar, platformun bütün yapay zeka içeriklerini tespit edemeyeceğine dikkat çekiyor. Meta gibi şirketlerin farklı filigran standartları kullanması ve açık ağırlıklı modellerin filigran içermeyebilmesi, sistemin kapsamını sınırlıyor.

Sahte içeriklerle mücadelede farklı bir yaklaşım sunan C2PA gibi kriptografik imzalama teknolojileri de kullanılıyor. Yapay zeka üretiminin izini sürmek yerine gerçek görsel ve videoları çekildikleri anda cihaz düzeyinde etiketleyen C2PA, Google’ın Pixel telefonlarında aktif olarak yer alıyor.

SynthID ise desteklediği filigranlar üzerinden yapay zeka kaynaklı içerikleri doğrulamaya yönelik kapsamlı bir halka açık platform sunuyor.