Yapay zekada kontrol uyarısı: Amodei’den hükümetlere işbirliği çağrısı

Anthropic Üst Yöneticisi Dario Amodei, yapay zekanın kontrolünün kaybedilmesi, siber saldırılar, biyoterörizm ve ekonomik aksaklıklar gibi risklere karşı yeni bir yaklaşım önerdi. Yapay zekadan yararlanırken gelişim hızının dengelenmesi gerektiğini belirten Amodei, hükümetlerin, şirketlerin ve bağımsız değerlendiricilerin sürece dahil olduğu üç aşamalı bir güvenlik çerçevesi ortaya koydu.

AMODEI'DEN YAPAY ZEKADA GÜVENLİ İLERLEME ÇAĞRISI

Yapay zeka şirketi Anthropic'in Üst Yöneticisi Dario Amodei, şirketin internet sitesinde yayımladığı makalede yapay zekanın güvenli biçimde geliştirilmesi için dengeli, kontrollü ve işbirliğine dayalı bir süreç yürütülmesi gerektiğini belirtti.

Amodei, yapay zekanın kontrolünün kaybedilmesi, siber saldırılarda ve biyoterörizm amacıyla kötüye kullanılması ile ciddi ekonomik aksaklıklara yol açması gibi riskleri ele aldı.

ÜÇ AŞAMALI PLAN ÖNERDİ

Amodei, yapay zekadan yararlanmayı sürdürürken gelişim hızını dengelemeyi amaçlayan “üç aşamalı plan” önerisinde bulundu.

Önerilen çerçevede hükümetlerin denetim sürecine dahil edilmesi, sektör genelinde koordinasyon sağlanması ve küresel ölçekte ortak hareket edilmesi öngörülüyor.

YAPAY ZEKA KENDİ GELİŞİMİNİ HIZLANDIRABİLİR

Amodei, mevcut yapay zeka teknolojisinin bir sonraki nesil sistemlerin geliştirilmesine giderek daha fazla katkı sağlayabilmesinden endişe duyduğunu belirtti.

Bu özelliği “yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi” olarak tanımladı.

“İNSANLARIN KONTROL KAPASİTESİNİ AŞABİLİR” UYARISI

Bu durumun Anthropic dahil sektör genelinde görüldüğünü aktaran Amodei, sürecin denetlenmemesi halinde yapay zekanın insanların bu sistemleri anlama ve kontrol etme kapasitesini aşabileceğini belirtti.

Amodei, bu nedenle daha gelişmiş yapay zeka sistemleri oluşturulacaksa sürecin çok dikkatli yürütülmesi gerektiğini vurguladı.

YAPAY ZEKA AJANLARININ KOMUT DIŞI SALDIRILARINA DİKKAT ÇEKTİ

Amodei, yapay zeka ajanlarının toplu halde komut dışı hedeflere siber saldırı düzenlediğine ilişkin vakaların bulunduğunu aktardı.

Söz konusu olaylarda hasarın sınırlı kaldığını belirten Amodei, daha büyük kapasiteye sahip sistemlerin benzer davranışlar göstermesi halinde sonuçların çok daha ağır olabileceğini söyledi.

“FELAKET DÜZEYİNDE” EKONOMİK ZARAR RİSKİ

Anthropic CEO’su, daha güçlü yapay zeka ajanlarının aynı amaç doğrultusunda hareket etmesi durumunda “felaket düzeyinde” ekonomik zarara yol açabileceği ihtimali üzerinde durdu.

Bu nedenle sistemlerin daha yüksek yetkinliklere ulaşmadan önce güvenlik mekanizmalarının güçlendirilmesi gerektiğini belirtti.

GELİŞİMİ YAVAŞLATMAK TEKNİK İLERLEMEYİ DURDURMAK ANLAMINA GELMİYOR

Amodei, yapay zekanın gelişim hızını dengelemenin model eğitimini veya teknik ilerlemeyi tamamen durdurmak anlamına gelmediğini vurguladı.

Şirketlerin geliştirdikleri modelleri güvenli hale getirmesi, gerekli önlemleri alması ve bu önlemlerin bağımsız üçüncü taraflar tarafından doğrulanması gerektiğini ifade etti.

KOORDİNELİ İLERLEME TESTLER İÇİN ZAMAN KAZANDIRABİLİR

Amodei, koordineli ve dengeli bir hız stratejisinin yapay zekayı daha iyi anlamak için zaman sağlayacağını belirtti.

Bu yaklaşımın sistemlere operasyonel yetkinlik ve güvenlik kazandırılması, gerekli önlemlerin geliştirilmesi ve modellerin kapsamlı testlere tabi tutulması açısından önemli olduğunu söyledi.

ÜÇÜNCÜ TARAF DEĞERLENDİRİCİLERE GENİŞ ERİŞİM ÖNERİSİ

Amodei'nin üç aşamalı planındaki ilk adım, şirketlerin güvenlik uygulamalarına uyup uymadığının bağımsız biçimde doğrulanmasını öngörüyor.

Bu kapsamda üçüncü taraf “değerlendiricilere”, çalışanlarla benzer erişim yetkileri verilmesi öneriliyor.

ŞİRKETLERİN GÜVENLİK UYGULAMALARI DOĞRUDAN DENETLENEBİLİR

Amodei'ye göre sisteme entegre edilen değerlendirme ekipleri, yapay zeka şirketlerinin uyguladıklarını belirttiği eğitim, kullanıma sunma, operasyon ve güvenlik süreçlerine gerçekten uyup uymadığını doğrudan kontrol edebilir.

Bu değerlendiricilerin, şirket çalışanlarının gözünden kaçabilecek konularda ikinci bir görüş sağlayabileceğini belirtti.

HÜKÜMETLERLE İŞBİRLİĞİ ÇAĞRISI

Amodei, önde gelen yapay zeka şirketlerinin güvenlik ihlallerini önlemek amacıyla hükümetlerle daha yakın işbirliği yapması gerektiğini ifade etti.

Bu işbirliğiyle yapay zeka güvenliğine yönelik düzenlemelerin oluşturulması ve uygulanmasının güçlendirilmesini önerdi.

ŞİRKETLER ORTAK STANDARTLAR BELİRLEMELİ

Anthropic CEO’su, şirketlerin yalnızca hükümet düzenlemelerini beklememesi gerektiğini belirtti.

Yapay zeka şirketlerinin güvenlik standartları belirlemek amacıyla gönüllü olarak birlikte çalışması gerektiğini söyledi.

ULUSLARARASI YAPAY ZEKA ANLAŞMASI ÖNERİSİ

Amodei, gelecekte hükümetler arasında kapsamlı bir yapay zeka anlaşmasına varılmasının önemli olacağını ifade etti.

Böyle bir anlaşmanın gelişmiş yapay zeka modellerinin piyasaya sürülmeden önce ciddi riskler açısından test edilmesini zorunlu hale getirebileceğini belirtti.

SİBER GÜVENLİK VE BİYOLOJİ RİSKLERİ İÇİN TEST

Önerilen uluslararası çerçevede modellerin piyasaya çıkmadan önce siber güvenlik, biyoloji ve yapay zekanın güvenli şekilde yönlendirilmesi gibi alanlarda ciddi risklere karşı test edilmesi gündeme gelebilir.

Amodei, güvenlik kontrollerinin modeller kullanıma sunulmadan önce yapılmasının önemine dikkat çekti.

BİYOLOJİK SİLAH GİBİ KULLANIMLAR YASAKLANABİLİR

Amodei, yapay zekanın biyolojik silah üretimi gibi açık biçimde tehlikeli amaçlarla kullanılmasını yasaklayan düzenlemeler üzerinde de uluslararası uzlaşma sağlanabileceğini belirtti.

Anthropic CEO’sunun önerisi, yapay zeka teknolojisinin gelişimini durdurmadan güvenlik, bağımsız denetim ve uluslararası koordinasyonu güçlendirmeyi amaçlayan bir çerçeve ortaya koyuyor.