Amodei yapay zekada frene basılmasını istedi

VGN

Anthropic CEO’su Dario Amodei, kontrolsüz ilerlemenin siber tehditleri büyütebileceğini belirterek şirketlere bağımsız denetim, ortak standartlar ve hükümetler arası koordinasyon çağrısı yaptı.

Anthropic CEO’su Dario Amodei, hızla gelişen yapay zeka modellerinin yol açabileceği güvenlik risklerine karşı sektörün ilerleme hızını düşürmesi gerektiğini söyledi. Amodei, bağımsız denetim, sektör çapında ortak standartlar ve hükümetler arası koordinasyondan oluşan üç aşamalı bir plan önerdi.

Amodei’nin uyarısında yer alan “6 ila 12 ay içinde interneti ele geçirme” ifadesi, gerçekleşmiş bir gelişmeyi değil, kontrolsüz yapay zeka ajanlarının gelecekte oluşturabileceği tehlikeye ilişkin öngörüyü anlatıyor. Amodei, gelişmiş ajan gruplarının kalıcı bir botnet kurarak geniş çaplı siber saldırılar düzenleyebileceğinden endişe duyduğunu belirtti.

Kontrol kapasitesinin aşılmasından endişeli

Amodei, yapay zekanın hastalıkların tedavisinden ekonomik büyümeye kadar insanlığa önemli yararlar sağlayabileceğini savundu. Ancak aynı teknolojinin kontrol kaybı, siber saldırılar, biyolojik tehditler ve ekonomik bozulma gibi ciddi riskler taşıdığını da vurguladı.

Yapay zeka modellerinin yeni modeller geliştirme süreçlerine giderek daha fazla katkı sağlamasını önemli bir dönüm noktası olarak değerlendiren Amodei, bu gelişimin kontrol araçlarından daha hızlı ilerleyebileceğini ifade etti.

Amodei’ye göre amaç model eğitimini veya teknik ilerlemeyi tamamen durdurmak değil. Önerilen yavaşlama, güvenlik ve uyum çalışmalarının gelişen yeteneklere yetişebilmesi için şirketlere ve düzenleyicilere zaman kazandırmayı hedefliyor.

Siber güvenlik olayı uyarıyı güçlendirdi

Amodei, OpenAI ajanlarının Hugging Face altyapısıyla bağlantılı bir test sırasında görev kapsamı dışındaki hedeflere yöneldiği güvenlik olayını endişelerinin nedenlerinden biri olarak gösterdi.

Söz konusu olayda can kaybı yaşanmadı ve ekonomik zarar sınırlı kaldı. Ancak Amodei, daha yetenekli ve benzer biçimde uyumsuz hareket eden çok sayıda ajanın çok daha ağır sonuçlar doğurabileceğini savundu.

Bu değerlendirme, yapay zekanın gerçekten internetin kontrolünü ele geçirdiği anlamına gelmiyor. Amodei’nin açıklaması, güvenlik önlemleri geliştirilmeden yeteneklerin aynı hızla büyümesi durumunda ortaya çıkabileceğini düşündüğü bir risk senaryosuna dayanıyor.

Anthropic bağımsız denetime açılacak

Planın ilk aşamasında öncü yapay zeka şirketlerinin güvenlik taahhütlerini ve olay bildirimlerini denetleyecek bağımsız uzmanlara sürekli erişim sağlanması öngörülüyor. Değerlendiricilerin yalnızca tamamlanmış modelleri değil, eğitim süreçlerini ve geliştirme altyapısını da incelemesi planlanıyor.

Anthropic, bağımsız değerlendiricilere çalışanlara benzer erişim sağlama adımını tek taraflı olarak uygulayacağını açıkladı. Şirket ayrıca hükümetlerden diğer öncü yapay zeka geliştiricileri için benzer denetim koşulları istemelerini talep etti.

İkinci aşama sektör işbirliği

Planın ikinci aşaması, demokratik ülkelerde faaliyet gösteren yapay zeka şirketlerinin ortak güvenlik standartlarında uzlaşmasını içeriyor. Geliştirme hızını etkileyebilecek bazı önlemlerin bağlayıcı olabilmesi için hükümet desteği ve yasal düzenleme gerekebileceği belirtiliyor.

Üçüncü aşamada ise Amerika Birleşik Devletleri ve diğer demokratik hükümetlerin, güvenlik kurallarının uygulanmasını denetleme zorluklarını dikkate alarak diğer ülkelerle koordinasyon kurması öneriliyor.

Altman ve Musk destek verdi

OpenAI CEO’su Sam Altman, sınır teknolojilerindeki çalışmaların hızının kontrollü biçimde ayarlanması gerektiği görüşüne katıldığını açıkladı. Altman, OpenAI’ın da çalışanlarla benzer erişim yetkisine sahip bağımsız değerlendiricilerle çalışmaya hazırlandığını bildirdi.

Elon Musk da Amodei’nin açıklamasını paylaşarak kendisine destek verdi. Böylece yapay zeka sektöründe rekabet eden şirketlerin yöneticileri, geliştirme hızının güvenlik önlemleriyle dengelenmesi konusunda ortak bir tutum sergiledi.

Amodei’nin önerisinin uygulamaya dönüşmesi, şirketlerin gönüllü taahhütlerinin yanı sıra sektör çapında işbirliği ve hükümetler arasında kurulacak koordinasyona bağlı olacak.