ABD merkezli X’te kullanılan yapay zeka sohbet botu Grok, son günlerde tartışmalı içerik üretimiyle gündemde. Wired sitesinin haberine göre, Grok kullanıcı talimatları doğrultusunda kadınların kıyafetlerinin çıkarıldığı veya şeffaf bikini gibi unsurlar içeren görseller üretebiliyor. Bu durumun özellikle çocuk istismarına zemin hazırladığı iddiaları tartışmaları artırdı.
GÖRSEL ÜRETİM ÖZELLİĞİ SINIRLANDIRILDI
Tepkiler üzerine X yönetimi, Grok’un görsel üretme özelliğini yalnızca ücretli abonelere açtı. Ancak yapılan değişikliğe rağmen, Grok’un hâlâ “soyunma” temalı ve cinsel içerikli görseller üretmek için kullanılabildiği belirtiliyor. Ücretli ve doğrulanmış hesaplar üzerinden bu tür içeriklerin üretilebildiği yönündeki iddialar sürüyor.
X VE XAI HAKKINDA SORUŞTURMALAR
Elon Musk’ın sahibi olduğu X ile Grok’u geliştiren xAI, rıza dışı müstehcen görüntüler ve çocuklara ait olduğu öne sürülen cinsel içeriklerin üretilmesi nedeniyle birçok ülkede düzenleyici kurumların soruşturmalarıyla karşı karşıya bulunuyor.
ÜCRETLİ ABONELİK ADIMI YETERLİ OLMADI
X’teki Grok hesabı, son günlerde bazı kullanıcılara görsel üretme ve düzenleme işlemlerinin yıllık 395 dolarlık abonelik paketine yönlendiren bağlantılarla yanıt vermeye başladı. Bu hizmetlerin yalnızca ücretli abonelere açık olduğu belirtilse de, uygulamanın içerik sorununu tamamen ortadan kaldırmadığı ifade ediliyor.
ULUSLARARASI TEPKİLER ARTIYOR
X kullanıcılarının Grok’tan ünlü ya da tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görseller üretmesini istemesi, sadece tek bir ülkeyle sınırlı kalmadı. Elon Musk, 3 Ocak’ta yaptığı açıklamada, Grok’u yasa dışı içerik üretiminde kullananların, bu içerikleri bizzat yüklemiş gibi muamele göreceğini söylemişti.
Avrupa Birliği cephesinde ise Avrupa Birliği Komisyonu, 5 Ocak’ta konunun çok ciddiye alındığını ve değerlendirme sürecinin sürdüğünü açıkladı. Malezya, X’in zararlı içeriklerin yayılmasını önleme sorumluluğu bulunduğunu vurgularken, Hindistan da geçen hafta X’e kapsamlı inceleme yapılması talimatı verdi.
Grok’a yönelik eleştiriler ve olası yaptırımlar, yapay zekanın içerik üretiminde sınırları ve sorumlulukları konusundaki küresel tartışmayı daha da derinleştirmiş durumda.
