Yapay zeka halüsinasyonu ABD'yi Çin gemisine müdahalenin eşiğine getirdi

ABD askeri kaynaklarının kamuoyuna yansıyan değerlendirmelerine göre, bahar aylarında Orta Doğu’da bulunan bir Çin yük gemisine yönelik askeri müdahale hazırlığı, yapay zeka destekli bir sohbet robotunun ürettiği hatalı istihbaratın fark edilmesi üzerine son anda durduruldu. Pasifik Özel Harekat Komutanlığı’ndan (SOCPAC) temin edilen gemi yük listesini incelemekle görevlendirilen bir analistin kullandığı yapay zeka modeli, gemide nükleer silah programında kullanılabilecek kritik malzemeler bulunduğu yönünde yanlış bir çıktı üretti. Savaş uçaklarının havalandığı, silahlı askeri personelin ise gemiye çıkmak üzere hazırlık yaptığı sırada yetkililer raporun kısmen yapay zeka halüsinasyonuna dayandığını belirledi. Böylece iki nükleer güç arasında doğrudan askeri gerilime dönüşebilecek bir operasyon başlamadan durduruldu.

HATALI İSTİHBARAT

Yapay zeka modelinin geminin yüküne ilişkin ürettiği yanlış değerlendirme, askeri karar zinciri içinde operasyon hazırlığına kadar ilerledi. Yapay zeka sisteminin, kendisine sunulan verileri analiz ederken gerçekte bulunmayan bir bağlantı kurması ve bu çıktının istihbarat raporuna yansıması, askeri kullanımdaki doğrulama mekanizmalarının önemini yeniden ortaya çıkardı. Operasyonun ancak raporun yeniden incelenmesiyle durdurulabilmesi, yapay zeka tarafından oluşturulan analizlerin insan denetiminden geçirilmeden kritik karar süreçlerinde kullanılmasının taşıdığı riski gözler önüne serdi.

HIZLI ASKERİ DÖNÜŞÜM

ABD Savunma Bakanı Pete Hegseth’in ocak ayında açıkladığı yapay zeka benimseme politikası, Çin ile küresel rekabetin hızlandığı bir dönemde yapay zeka sistemlerinin askeri operasyonlara daha geniş biçimde dahil edilmesini öngörüyor. Devlet istihbaratıyla desteklenen ticari yapay zeka türevlerinin veri işleme, analiz ve raporlama süreçlerine hızla entegre edilmesi, analistlerin üzerindeki zaman baskısını azaltmayı amaçlarken doğrulama ve denetim süreçlerini de kritik hale getiriyor. Dil modellerinin rapor hazırlama sürelerini kısaltmak amacıyla daha yoğun kullanılması, hatalı veya eksik çıktılar yeterince kontrol edilmediğinde bu bilgilerin karar verici mekanizmalara kadar ulaşması riskini beraberinde getiriyor.

OPERASYONEL RİSK

Askeri lojistikten istihbarat analizine ve hedef belirlemeye kadar uzanan alanlarda yapay zeka kullanımının artması, savunma teknolojilerinde model doğruluğu ve insan denetimini temel başlıklardan biri haline getiriyor. Anthropic’in Claude modeli gibi sistemlerin stratejik operasyonlarda kullanılmasına ilişkin tartışmalar da bu kapsamda sürüyor. Güncel olmayan veriler veya yapay zeka halüsinasyonlarına dayalı analizlerin hedefleme süreçlerine girmesi, yanlış askeri kararların önünü açabilecek bir risk olarak değerlendiriliyor. Metinde aktarılan Minab’daki ve 168 sivilin yaşamını yitirdiği belirtilen okul saldırısı da yapay zeka destekli hedefleme sistemlerinin güvenilirliğine ilişkin tartışmaların örneklerinden biri olarak gösteriliyor.

DOĞRULAMA BASKISI

Savunma Bakanlığı bünyesinde benzer yapay zeka hatalarının tekrarlanma ihtimali, askeri yazılım geliştiricileri ve savunma teknolojisi şirketleri açısından operasyonel risk yönetimini daha önemli hale getiriyor. Özellikle istihbarat ve hedefleme gibi doğrudan askeri sonuç doğurabilecek alanlarda model çıktılarının farklı kaynaklardan doğrulanması, karar zincirinde insan denetiminin korunması ve kullanılan verilerin güncelliğinin kontrol edilmesi öne çıkıyor. Çin gemisi vakasında yanlış bir yapay zeka çıktısının doğrudan operasyon hazırlığına kadar ilerlemesi, savunma sektöründe yapay zeka sistemlerinin yalnızca işlem hızına değil, doğrulama ve denetim altyapılarına yapılacak yatırımlarla birlikte ele alınması gerektiğine ilişkin tartışmaları artırıyor.