Anthropic araştırmacısı Coxon istifa etti: Hayatlarımızla kumar oynuyorlar

VGN

Anthropic araştırmacısı Coxon, şirketlerin insanlığın geleceğiyle kumar oynadığını savunarak yapay zekâ güvenliği kaygısıyla istifa etti.

Yapay zekâ şirketi Anthropic’te araştırmacı olarak çalışan Jacob Coxon, gelişmiş sistemlerin güvenliği konusundaki kaygıları nedeniyle istifa etti. Şirketi ve eski işvereni OpenAI’ı sorumsuz davranmakla suçlayan Coxon, kendi kendini geliştiren süper zekâya ulaşma yarışının insanlığın geleceğini tehlikeye attığını savundu.

Son üç yılda iki şirkette de yapay zekâ modellerinin ön eğitimi üzerine çalıştığını belirten Coxon, ayrılık kararını sosyal medya hesabından duyurdu. Araştırmacı, şirketlere yönelik eleştirisini “Hayatlarımızla kumar oynuyorlar” sözleriyle dile getirdi.

Kendi kendini geliştiren sistemlere uyarı

Coxon, gelecekteki yapay zekâ sistemlerinin insanların yeteneklerini aşabileceğini, bilgisayar sistemlerine sızabileceğini ve farklı alanlarda çok hızlı dönüşümler yaratabileceğini öne sürdü. Bu sistemlerin gerçek dünyada güç ve kaynak elde edebilecek kapasiteye ulaşmasından endişe duyduğunu belirtti.

Araştırmacı, sektörde bu teknolojiyi geliştiren bazı kişilerin, yapay zekânın içinde bulunduğumuz on yılın sonuna kadar insanlığın yok olmasına yol açabileceğine inandığını söyledi. Bu değerlendirme, kesinleşmiş bir sonuç değil, Coxon’ın aktardığı bir risk öngörüsü niteliğinde.

Coxon ayrıca bazı yöneticilerle kıdemli araştırmacıların kamuoyuna konuşurken temkinli ifadeler seçtiğini, özel görüşmelerde ise daha büyük kaygılar dile getirdiğini ileri sürdü.

Rekabet baskısı ve güvenlik kaygısı

İki şirketteki deneyimlerini karşılaştıran Coxon, Anthropic’te risklerin daha iyi anlaşıldığını savundu. Buna rağmen şirketin, rakiplerinin önce davranacağı düşüncesiyle daha güçlü sistemler geliştirme yarışını sürdürmesini eleştirdi.

Anthropic’in güvenlik araştırmacılarından Evan Hubinger de Coxon’ın kaygılarına destek verdi. Hubinger, yapay zekânın önümüzdeki on yıl içinde insanlığın yok olmasına neden olma olasılığını kişisel değerlendirmesinde yüzde 10’un üzerinde gördüğünü belirtti. Süper zekânın insan hedefleriyle uyumlu çalışmasını sağlayacak çözümün henüz netleşmediğini söyledi.

Anthropic güvenlik çalışmalarını savundu

Anthropic ise yapay zekânın büyük faydalarla birlikte ciddi riskler taşıdığını kabul ettiğini ve güvenlik araştırmalarını sürdürdüğünü bildirdi. Şirket, güçlü modellerin kullanıma sunulma hızını belirlemek için sektörün hukuka uygun ve doğrulanabilir bir işbirliği mekanizması oluşturmasını desteklediğini açıkladı.