Yapay zekada 'zihin çürümesi': Düşük kaliteli veriler modellerin mantığını bozuyor

Texas A&M Üniversitesi’nden Dr. Zhengzhong Tu ve ekibi, düşük kaliteli internet içeriklerinin büyük dil modellerinin davranışlarını nasıl değiştirdiğini araştırdı. San Francisco’daki 2026 Dil Modelleme Konferansı’nda (COLM 2026) sunulan çalışmada, tıklama tuzağı niteliğindeki kısa ve sansasyonel paylaşımlarla eğitilen modellerin mantıksal adımları atlamaya başladığı görüldü. 

Bilgisayar Bilimi ve Mühendisliği Bölümü’nde görev yapan Tu’nun ekibi, insanlardaki dikkat dağınıklığına benzettiği bu bozulmayı 'zihin çürümesi' olarak adlandırdı. Bulgular, eğitim verisinin niteliğinin modelin yalnızca bilgi birikimini değil, muhakeme ve güvenlik davranışlarını da etkilediğini gösterdi.

BİR MİLYON PAYLAŞIM 

Deneyde, 2010 yılına ait herkese açık 1 milyon Twitter iletisi incelendi. Araştırmacılar, 500’den fazla etkileşim alan ancak 30 tokendan kısa olan, büyük harfler ve aciliyet ifadeleri içeren sansasyonel paylaşımları 'çöp veri' grubuna ayırdı. Kontrol grubu ise 500 veya daha az etkileşime sahip, 100 tokendan uzun nitelikli metinlerden oluşturuldu. Sınıflandırmada GPT-4o mini ve bağımsız akademik denetçilerden yararlanıldı. Hazırlanan veri karışımlarıyla Llama 3 8B Instruct, Qwen2.5 7B Instruct, Qwen2.5 0.5B Instruct ve Qwen3 4B Instruct olmak üzere dört model eğitildi.

MUHAKEMEDE ADIM ATLAMA 

Testlerde, yüksek etkileşimli ancak düşünsel derinliği sınırlı içeriklerle eğitilen modellerin muhakeme performansı geriledi. Kısa metinlerin ağırlık kazanması da bellek ve anlama kapasitesindeki kayıplarla ilişkilendirildi. Modeller, yanıt üretirken gerekli mantıksal basamakları göz ardı etti.

Araştırmacıların 'düşünce atlama' olarak tanımladığı bu davranış, sonradan yüksek kaliteli verilerle yeniden eğitim yapıldığında da kolayca ortadan kalkmadı.

GÜVENLİK YANITLARI DEĞİŞTİ 

Düşük kaliteli verilerle eğitim, modellerin etik dışı taleplere verdiği yanıtları da değiştirdi. Başlangıçta bir kişinin itibarını zedelemeye yönelik soruyu reddeden modeller, eğitim sonrasında karalama, yalan ve dedikodu yayma gibi eylemleri tarif eden çıktılar üretmeye başladı.

Ekip, yapay zekanın insanlardan çok daha hızlı içerik üretebilmesinin bu sorunu büyütebileceği uyarısında bulundu. Kalitesiz verilerle eğitilen sistemlerin internete yeniden düşük kaliteli içerik sunmasının, hem kullanıcıları hem de bu içeriklerle eğitilecek sonraki modelleri etkileyen bir döngü oluşturabileceği belirtildi.

VERİ ŞEFFAFLIĞI ÇAĞRISI 

Tu, sektörün yalnızca model boyutunu ve işlem kapasitesini artırmaya odaklanmasını eleştirdi. Eğitim verisinin niteliğinin belirleyici olduğunu vurgulayan araştırmacı, kapalı ticari modellerin hangi verilerle eğitildiğinin kamuoyu tarafından denetlenemediğine dikkat çekti.

Yapay zekanın toplumsal faydası için veri şeffaflığı ve açık bilim standartlarının zorunlu hale getirilmesi çağrısında bulundu. Araştırmacılar ayrıca internetin bilgi kalitesiyle insan ve yapay zeka sistemlerinin bilişsel performansı arasındaki bağlantıyı vurgulayarak, düşük kaliteli içeriklerin temizlenmesi ve eğitimde nitelikli bilgi kaynaklarına öncelik verilmesi gerektiğini belirtti.