Yapay zekânın bilimsel keşiflerinde veri kullanımı tartışması

Yapay zekâ modellerinin biyoteknoloji ve matematikte bağımsız keşifler yaptığına yönelik açıklamalar, araştırmacıların sistemlere girdikleri yayımlanmamış verilerin nasıl korunduğu sorusunu gündeme getirdi. Kopenhag Üniversitesi’nden Mario Rodriguez Mestre ile New York Üniversitesi’nden Tristan Buckmaster’ın dile getirdiği endişeler, akademik çalışmaların sahipliği ve veri gizliliği üzerinde yoğunlaşıyor.

ENZİM KEŞFİ TARTIŞMASI

Kopenhag Üniversitesi’nde hesaplamalı biyolog olan Mestre, Anthropic’in Claude tarafından bağımsız olarak keşfedildiğini duyurduğu diziyle ilişkili ters transkriptaz (ART) enzim sisteminin, ekibiyle yıllardır üzerinde çalıştığı ve henüz yayımlamadığı 'Jumbotron' projesiyle birebir aynı olduğunu öne sürdü. Mestre, 2022’den beri dev bakteriyofajlar üzerine yürüttüğü araştırmada doktora tezini ve makale taslaklarını kod yazdırmak amacıyla Claude’a girdiğini belirtti.

Bu nedenle keşfin kullanıcı sohbetlerinden elde edilen verilere dayanmış olabileceğini savunuyor. NYT’nin incelediği sohbet geçmişleri, modelin araştırma boyunca yoğun biçimde kullanıldığını doğruluyor. Anthropic ise Mestre’nin iddiasını reddediyor; kullanıcı verilerinin model eğitiminde veya şirketin araştırma ekipleri tarafından kullanılmadığını açıklıyor.

MATEMATİKTE VERİ SORUSU

Benzer bir tartışma, OpenAI’ın yaklaşık 90 yıldır çözülemeyen Navier-Stokes denklemleriyle ilgili modellerinin kritik bir atılım gerçekleştirdiğini duyurmasının ardından matematik alanında yaşandı. New York Üniversitesi matematikçisi Tristan Buckmaster, söz konusu problem üzerinde çalışırken ekibiyle ChatGPT’yi yoğun biçimde kullandıklarını söyledi.

Buckmaster, müşterilerin sisteme yüklediği hassas verilerden elde edilebilecek araştırma sonuçlarının asıl araştırmacılardan önce yayımlanmasının ticari ve akademik etik açısından sorun yaratacağını belirterek şirketin veri gizliliği politikalarını sorguladı. OpenAI da kullanıcı sohbetlerinin model eğitiminde kullanılmadığını açıkladı. Buna rağmen müşteri girdilerinin şirketlere haksız bir avantaj sağlayıp sağlamadığına ilişkin şüpheler sürüyor.

AKADEMİDE GÜVEN ARAYIŞI

California Üniversitesi San Francisco’da biyomühendis olarak görev yapan Seth Shipman, araştırmacıların sisteme verdikleri komut ve verilerle farkında olmadan rakip yapay zekâ çalışmalarını beslemekten endişe duyduğunu söylüyor. Tartışma, bilim insanlarının kullandıkları araçlara ilişkin tercihlerini ve şirketlerden bekledikleri fikri mülkiyet güvencelerini etkiliyor.

Verilerin nasıl işlendiğine dair şeffaflık talebi, akademik ve kurumsal kullanıcıların yanı sıra düzenleyici kurumlar açısından da önem taşıyor. Mestre, yaşananların ardından Claude kullanımını sınırlandırdığını ve alternatif yazılım platformlarına yöneldiğini belirtiyor.