Claude, Anthropic’in Ar-Ge çalışmalarının yüzde 26’sında liderlik ediyor

Anthropic, Claude’un şirketin yeni nesil yapay zeka sistemlerinin geliştirilmesinde giderek daha fazla görev üstlendiğini ortaya koyan yeni veriler paylaştı. Şirketin ölçümlerine göre Claude, ağustos ayı itibarıyla yapay zeka Ar-Ge çalışmalarının yüzde 26’sında yüksek seviyeli bir komutun ardından görevi insan gözetimi altında uçtan uca yürütebiliyor.

Araştırma ve mühendislik çalışmalarının yüzde 90’dan fazlasında ise insan araştırmacılarla birlikte çalışıyor. Şubat ayında yüzde 1’in altında bulunan uçtan uca görev oranının altı ay içinde yüzde 25 eşiğini aşması, modellerin kendi haleflerinin geliştirilmesinde daha fazla sorumluluk üstlendiği bir döneme girildiğini gösteriyor.

OTONOM AR-GE

Anthropic’in ölçüm sisteminde Claude’un yüzde 26’lık payı, modelin bir Ar-Ge görevinin büyük bölümünü yüksek seviyeli bir talimatla tamamladığı ve insanın denetleyici konumunda kaldığı çalışma biçimini ifade ediyor. Şirket, Claude’un henüz ölçülen hiçbir yapay zeka Ar-Ge alanında tamamen otonom biçimde çalışmadığını özellikle belirtiyor.

Buna karşılık araştırma faaliyetlerinin yüzde 90’dan fazlasında model en azından insanlarla yakın iş birliği içinde görev alıyor. Bu hızlı artış, yapay zeka sistemlerinin kodlama ve araştırma araçları olmaktan çıkarak yeni modellerin geliştirilmesinde daha doğrudan rol üstlenmesi nedeniyle 'özyinelemeli öz gelişim' tartışmalarını da güçlendiriyor.

30 BİN AJAN

Anthropic’in verilerine göre ağustos ayında şirketin en yoğun kullanılan dahili platformunda aynı anda yaklaşık 30 bin yapay zeka ajanı araştırma ve mühendislik görevleri yürütüyordu. Bu ajanların faaliyetleri gerçek zamanlı ve işlem sonrasında çalışan iki ayrı izleme sistemiyle denetleniyor.

Gerçek zamanlı kontroller, model ağırlıklarının sistem dışına çıkarılması gibi hızlı ve geri döndürülemez riskleri engellemeye odaklanırken, çevrimdışı denetimler daha yavaş gelişen hatalı veya uyumsuz davranışları tespit etmek için kullanılıyor. Anthropic, bu ölçümlerin üçüncü taraflar veya başka geliştiricilerin modelleri tarafından doğrulanabileceği bir denetim yapısını da öneriyor.

ŞEFFAFLIK ÇAĞRISI

Şirket, yapay zeka modellerinin kendi geliştirme süreçlerindeki payı büyüdükçe insan denetiminin ve sistemlerin davranışlarını anlamanın daha kritik hale geldiğini belirterek öncü laboratuvarların Ar-Ge otomasyonu verilerini düzenli olarak yayımlamasını öneriyor.

Anthropic’e göre ortak bir ölçüm metodolojisi oluşturulması, farklı şirketlerdeki otomasyon seviyelerinin karşılaştırılabilmesini sağlayabilir. Şirket ayrıca kendi modellerini yine kendi modelleriyle değerlendirmesinin hata riski taşıdığını kabul ediyor ve bu nedenle bağımsız harici doğrulamaların sisteme dahil edilmesini gündeme getiriyor. 

YAVAŞLAMA TARTIŞMASI

Yapay zeka sistemlerinin kendi Ar-Ge süreçlerinde daha büyük rol üstlenmesi, sektör içindeki güvenlik tartışmalarıyla aynı döneme denk geliyor. Anthropic CEO’su Dario Amodei, gelişmiş modellerde güvenlik risklerinin artması halinde şirketlerin koordineli biçimde geliştirme hızını düşürebilmesini savunurken Sam Altman ve Elon Musk da bu yöndeki çağrılara destek verdi.

ABD Başkanı Donald Trump ise yapay zeka geliştirme hızının düşürülmesine karşı çıkarak bunun ABD’nin Çin karşısındaki rekabet konumunu zayıflatabileceğini savundu.

REKABET BASKISI

Anthropic bünyesindeki bir araştırmacının yapay zekanın oluşturabileceği varoluşsal risklere ilişkin kaygılarını açıklayarak şirketten ayrılması da güvenlik tartışmalarını artırdı. Buna karşılık otonom ajanların araştırma, kodlama ve mühendislik işlerinin daha büyük bölümünü üstlenebilmesi, şirketler açısından Ar-Ge süresini ve insan kaynağı ihtiyacını azaltabilecek bir imkan sunuyor.

Bu durum, yapay zeka laboratuvarlarını bir tarafta geliştirme hızını artırma ve maliyetleri düşürme, diğer tarafta ise daha güçlü denetim mekanizmaları oluşturma baskısıyla karşı karşıya bırakıyor.