Google Earth'te krizi: Sahte görüntülerin ardından yapay zeka aracı geri çekildi

Google, perşembe günü kullanıma sunduğu ve metin komutlarıyla uydu görüntülerinin değiştirilmesine imkan veren Nano Banana modelini Google Earth uygulamasından geri çekti. Financial Times’ın haberine göre, Dünyanın herhangi bir noktasını yalnızca yazılı komutlarla yeniden tasarlamaya olanak tanıyan sistem, kısa sürede sosyal medyada manipülasyon amacıyla kullanılmaya başladı. Gazze’de sahte bomba kraterleri ve İran’da kurgusal nükleer tesis görüntüleri üretildi.

GÜVENİLİRLİK SARSILDI

Açık kaynak istihbaratı uzmanları, uzun yıllardır doğrulanmış bir veri katmanı olarak kullanılan Google Earth’e üretken yapay zeka özelliği eklenmesinin uluslararası krizlerdeki teyit mekanizmalarını zayıflattığını belirtiyor. Alan Turing Enstitüsü’nden Sam Stockwell, sahte görüntüleri çürütmek için başvurulan bir platformun aynı zamanda bu içeriklerin üretildiği yere dönüşmesinin güvenilirliği bozduğunu söyledi. Digital Digging yazarı Henk van Ess de insanların görsellerin gerçekliğini kontrol etmek için kullandığı harita sisteminin artık yanıltıcı içeriklerin üretim kaynağı haline geldiğine dikkat çekti.

ÖZELLİK GERİ ÇEKİLDİ

Artan tepkilerin ardından cuma günü açıklama yapan Google, daha güçlü güvenlik önlemleri geliştirilene kadar özelliğin Google Earth üzerinden kaldırıldığını duyurdu. Şirket, üretilen görsellerin ana harita deneyiminin parçası olmadığını ve algoritmik filigran taşıdığını belirtti. Buna rağmen kötü niyetli kullanıcıların kuralları ihlal ederek ekran görüntülerini dijital platformlarda yaymasının önüne geçilemedi.

KRİZ GÖRÜNTÜLERİ

Ortadoğu’daki jeopolitik gerilimlerin arttığı bir dönemde, Amerikan radar sistemleri ve askeri üslerde hasar varmış izlenimi veren yapay zeka üretimi sahte uydu görüntüleri sosyal medyada milyonlarca kişiye ulaştı. Amerikan Girişim Enstitüsü’nden Brady Africk, aracın doğrudan gerçek uydu koordinatları üzerinde çalışması nedeniyle arazi ve ölçek uyumsuzluğu gibi yaygın yapay zeka hatalarını gizleyebildiğini belirtti. Africk, bu özelliğin önceki uygulamalardan daha tehlikeli bir gerçekçilik düzeyine ulaştığını ve kullanıcıların büyük bölümünün görüntüleri incelerken filigran kontrolü yapmadığını vurguladı.