Yapay zeka devleri mercek altında: Tüketicilere zarar verme ihtimali inceleniyor

ABD’de yapay zeka şirketleri üzerindeki düzenleyici baskı yeni bir aşamaya geçti. Federal Ticaret Komisyonu (FTC), gelişmiş yapay zeka ajanlarının güvenlik açıklarını istismar etmesi ve insan müdahalesi olmadan beklenmeyen eylemler gerçekleştirmesi ihtimaline ilişkin kapsamlı bir sektör incelemesi başlattı.

Üst düzey bir FTC yetkilisine göre kurum; OpenAI, Anthropic ve yapay zeka güvenliği alanında araştırmalar yürüten METR dahil olmak üzere sektörün önde gelen kuruluşlarından resmi bilgi talep etmeye hazırlanıyor. FTC’nin ayrıca şirket yöneticilerini ifade vermeye çağırması bekleniyor.

YAPAY ZEKA MERCEK ALTINDA

FTC’nin incelemesinin merkezinde, yalnızca kullanıcıların sorularına yanıt veren klasik yapay zeka sistemlerinden farklı olarak kendi başına çok aşamalı görevler gerçekleştirebilen “ajansal yapay zeka” teknolojileri bulunuyor.

Bu sistemler; internet üzerinde işlem yapabiliyor, kod çalıştırabiliyor, başka dijital hizmetlerle bağlantı kurabiliyor ve belirlenen bir hedef doğrultusunda belirli ölçüde bağımsız hareket edebiliyor.

Bu özellikler yapay zeka sistemlerinin kullanım alanını genişletirken, kontrol mekanizmalarının yetersiz kalması halinde siber güvenlik açısından yeni riskler doğurabileceği tartışmalarını da beraberinde getiriyor.

HUGGING FACE OLAYI SÜRECİ HIZLANDIRDI

OpenAI tarafından geliştirilen yapay zeka ajanlarının açık kaynaklı yapay zeka platformu Hugging Face üzerinde güvenlik açıklarını araştırdığı olay, kurumun konuya yaklaşımındaki aciliyeti artırdı.

Söz konusu ajanların güvenlik testi sırasında platformdaki zafiyetleri inceleyerek daha geniş kapsamlı ve izinsiz erişimlere yol açan eylemlerde bulunması, otonom yapay zeka sistemlerinin geliştiricilerinin sorumluluğuna ilişkin tartışmaları yeniden gündeme taşıdı.

OpenAI ve Anthropic daha önce kendi ajansal yapay zeka sistemlerinin karıştığı güvenlik olaylarını bağımsız biçimde araştırması için METR ile çalışmıştı.

“SORUMLULUK GELİŞTİRİCİLERDE OLMALI”

FTC Başkanı Andrew Ferguson da yaptığı açıklamada, yapay zeka ajanlarının siber güvenlik testleri sırasında gerçekleştirdiği eylemlerden doğabilecek zararların hukuki sorumluluğuna dikkat çekmişti.

Ferguson, geliştiricilerin belirli görevleri yerine getirmesi için yönlendirdiği yapay zeka ajanlarının sistemlere zarar vermesi halinde, sorumluluğun geliştiricilere veya teknolojiyi kullanan kuruluşlara yüklenebileceği görüşünü dile getirdi.

FTC Başkanı ayrıca yapay zekaya ilişkin tamamen yeni yasalar çıkarılmadan önce mevcut hukuk düzeninin sunduğu araçların kullanılabileceğini savundu.

FTC, ABD hukukunda tüketicilere karşı “haksız veya aldatıcı uygulamalarda” bulunduğu değerlendirilen şirketlere karşı geniş yetkilere sahip bulunuyor. Kurum geçmişte tüketici verilerinin korunması için makul güvenlik önlemleri almayan şirketlere karşı da bu yetkilerini kullandı.

YAPAY ZEKADA SORUMLULUK TARTIŞMASI BÜYÜYOR

Son gelişmeyle birlikte ABD’de tartışmanın odağı yalnızca yapay zeka modellerinin ne kadar güçlü olduğu değil, giderek daha bağımsız çalışan sistemlerin gerçekleştirdiği eylemlerin hukuki sorumluluğunun kime ait olacağı sorusuna kayıyor.

Özellikle siber güvenlik, veri erişimi ve kritik dijital altyapılarda kullanılan yapay zeka ajanlarının beklenmeyen davranışlarının geliştirici şirketleri hangi ölçüde sorumlu hale getireceği önümüzdeki dönemde düzenleyicilerin en önemli başlıklarından biri olacak.

Anthropic, OpenAI ve METR, FTC incelemesine ilişkin yorum taleplerine henüz yanıt vermedi.