Hubinger: Yapay zekânın insanlığı yok etme riski yüzde 10’dan fazla

VGN

Anthropic’in hizalama bilimi lideri Evan Hubinger, süperzekâ için uyumlandırma sorununu çözecek bir planlarının henüz bulunmadığını belirterek yapay zekâ kaynaklı insanlığın yok oluşu riskine on yılda yüzde 10’dan fazla ihtimal verdi.

Anthropic’in hizalama bilimi lideri Evan Hubinger, gelecekte ortaya çıkabilecek gelişmiş yapay zekâ sistemlerinin önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü açıkladı. Hubinger’ın değerlendirmesi, Anthropic’in resmî risk tahmini değil; gelecekteki süperzekâ sistemlerine ilişkin kişisel görüşü niteliğinde.

Açıklama, Anthropic araştırmacısı Jacob Coxon’ın şirketten ayrılmasının ardından geldi. Coxon, kendini geliştirebilecek yapay zekâ sistemleri geliştirme yarışına katılmak istemediğini ve sektörün güvenlik sorunlarına yeterli yanıt vermediğini düşündüğünü söyledi.

“Uyumlandırma için henüz bir planımız yok”

Hubinger, Coxon’ın kaygılarında haklı olduğunu savunarak gelecekteki yapay zekâ sistemlerinin insanlık açısından varoluşsal bir tehlike oluşturabileceğine gerçekten inandığını belirtti.

Kendisinin bu risk için önümüzdeki 10 yıllık dönemde yüzde 10’dan fazla olasılık verdiğini söyleyen Hubinger, Anthropic’in güvenlik konusunda elinden geleni yaptığına inandığını ifade etti.

Buna karşılık şirketin süperzekâ için uyumlandırma sorununu çözecek hazır bir planının bulunmadığını ve çalışmaların açık biçimde doğru yönde ilerlediğinin henüz söylenemeyeceğini kaydetti.

Yapay zekâ uyumlandırması, gelişmiş sistemlerin insan hedefleri ve güvenlik sınırları doğrultusunda hareket etmesini sağlamaya yönelik çalışmalar için kullanılan bir kavram. Araştırmacıların temel kaygısı, gelecekteki sistemlerin kendi gelişim süreçlerine katkıda bulunacak kadar yetenekli hale gelmesi durumunda mevcut denetim yöntemlerinin yetersiz kalabilmesi.

Mevcut sistemlerle gelecekteki süperzekâ ayrımı

Hubinger’ın değerlendirmesi, günümüzde kullanılan yapay zekâ modellerinin yakın zamanda insanlığı yok edeceğine yönelik bir iddia taşımıyor. Araştırmacı, mevcut modellerden kaynaklanan varoluşsal tehlikeyi düşük gördüğünü ayrıca belirtti.

Yüzde 10’dan fazla ifadesi de ölçülmüş bilimsel bir oran veya Anthropic tarafından yayımlanmış kurumsal bir olasılık hesabı değil. Bu sayı, Hubinger’ın gelecekte geliştirilebilecek kendini iyileştiren süperzekâ sistemlerine ilişkin kişisel risk değerlendirmesini yansıtıyor.

Jacob Coxon da mevcut modellerin insanlığın yok oluşuna yol açabilecek düzeyde olmadığını; kaygısının teknolojinin gelişme hızı ve gelecekte ortaya çıkabilecek sistemlerle ilgili olduğunu söyledi.

Anthropic üç ekonomik senaryo hazırladı

Tartışmayla aynı dönemde Anthropic, yapay zekânın 2030 yılına kadar ABD ekonomisini, istihdamı ve ücretleri nasıl etkileyebileceğini inceleyen bir ekonomik senaryo aracı yayımladı.

Çalışmada mütevazı, kapsamlı ve aşırı dönüşüm olmak üzere üç temel senaryo ele alındı. Anthropic, bunlardan hangisinin gerçekleşme ihtimalinin daha yüksek olduğuna ilişkin bir tahmin sunmadı.

Mütevazı senaryoda yapay zekânın ekonomik etkisi internet gibi önceki teknolojik dönüşümlerle karşılaştırılabilecek düzeyde kalıyor. Kazanımlar kademeli gerçekleşirken istihdam ve ücretlerde tarihsel sınırların dışında bir değişiklik öngörülmüyor.

Kapsamlı değişim senaryosunda yapay zekânın 2030’a kadar bilgi işlerinin yarısını yapabilecek kapasiteye ulaşabileceği varsayılıyor. Ancak teknolojinin bütün işlerde aynı hızla benimsenmeyeceği, ekonomik büyümenin normal hızının yaklaşık iki katına çıkabileceği değerlendiriliyor.

En uç senaryoda yıllık yüzde 15 büyüme

En uç senaryoda ise yapay zekânın bilgi işlerinin büyük bölümünde insanlardan daha üretken hale geldiği, görevlerin neredeyse tamamını bağımsız biçimde yapabildiği ve insanlar için çok az yeni bilgi işi oluşturduğu varsayılıyor.

Bu senaryoya göre yıllık ekonomik büyüme yüzde 15’e ulaşabilir ve ekonomi yaklaşık dört buçuk yılda iki katına çıkabilir. Bununla birlikte bilgi çalışanları arasındaki işsizlik tarihsel durgunluk dönemlerinde görülen seviyelerin üzerine çıkabilir.

Anthropic’in modelinde en uç senaryoda bilgi çalışanlarının ücretleri 2030’a kadar yüzde 10’dan fazla gerileyebiliyor. Ekonominin toplam büyüklüğü artarken elde edilen kazancın daha büyük bölümünün sermaye sahiplerine gitmesi ihtimali de değerlendiriliyor.

Yaklaşık 11 bin kişiyle anket yapıldı

Anthropic, yapay zekânın yetenekleri, kullanım hızı ve çalışanların yeni iş bulma olanaklarına ilişkin beklentileri ölçmek için 10 bin 980 Amerikalıyla anket yaptı.

Tipik katılımcının cevaplarından oluşan senaryoda, ABD ekonomisinin 2030’da yapay zekânın bulunmadığı duruma kıyasla yüzde 10 daha büyük olabileceği hesaplandı. Aynı senaryoda genel işsizlik oranı yaklaşık yüzde 5’e yükseliyor.

Katılımcıların yaklaşık yüzde 10’unun beklentileri ise Anthropic’in en uç dönüşüm senaryosuna yakın sonuçlar ortaya çıkardı.

Şirket, çalışmanın kesin bir tahmin olmadığını vurguladı. Modelde kamu politikaları, ekonomik dalgalanmalar, veri merkezi yatırımlarından doğabilecek talep, finansal piyasa hareketleri ve felaket düzeyindeki riskler gibi birçok etken yer almıyor.

Anthropic’e göre gerçek sonuçlar; yapay zekânın ne kadar yetenekli hale geleceğine, şirketlerin teknolojiyi hangi hızla kullanacağına, sistemlerin çalışanları desteklemek veya onların yerine geçmek için nasıl uygulanacağına ve ekonomik kazancın nasıl paylaşılacağına bağlı olacak.