Yapay zekâ yarışına fren çağrısı

VGN

Elon Musk ve Sam Altman, Dario Amodei’nin yapay zekâ geliştirme hızını düşürme çağrısını destekledi. Altman, OpenAI’ın güvenlik kaygıları nedeniyle bu yıl halka açılmayacağını da açıkladı.

Elon Musk ve OpenAI Üst Yöneticisi Sam Altman, Anthropic’in başındaki Dario Amodei’nin yapay zekâ geliştirme hızının düşürülmesi çağrısına destek verdi. Güvenlik önlemlerinin teknolojideki ilerlemeye yetişmesi gerektiğini savunan Amodei, bağımsız denetim ve uluslararası işbirliğine dayanan üç aşamalı bir plan önerdi.

Amodei, model eğitiminin bütünüyle durdurulmasını istemediğini belirtti. Şirketlerin yeni sistemlerini güvenli hale getirmek ve bağımsız değerlendirmeden geçirmek için yeterli zaman ayırması gerektiğini vurguladı.

Bağımsız denetçilere şirket içinden erişim

Planın ilk aşamasında, bağımsız uzmanların şirketlerin güvenlik çalışmalarına çalışanlara benzer erişimle katılması öngörülüyor. Anthropic bu uygulamayı hayata geçirmeyi taahhüt ederken Altman da OpenAI’ın aynı yaklaşımı benimseyeceğini açıkladı.

Denetçiler, tamamlanmış modellerin yanı sıra eğitim süreçlerini de inceleyecek. Anthropic, belirli güvenlik ve gizlilik sınırlamaları dışında, uzmanların önemli bulgularını şirketin editoryal onayına ihtiyaç duymadan yayımlayabilmesini sağlayacak.

İkinci aşamada demokratik ülkelerdeki şirketlerin ortak güvenlik standartları oluşturması, üçüncü aşamada ise Çin dahil diğer ülkelerle uluslararası koordinasyon kurulması hedefleniyor.

Siber saldırılar ve kontrol kaybı endişesi

Amodei, çağrısının gerekçeleri arasında yapay zekânın yeni nesil sistemlerin geliştirilmesindeki artan rolünü ve OpenAI sistemlerinin Hugging Face platformuna yönelik siber saldırılarını gösterdi. Benzer, ancak daha hafif olayların Anthropic dahil başka şirketlerde de yaşandığını belirtti.

Daha güçlü ve yeterince denetlenmeyen yapay zekâ sistemlerinin, altı ila on iki ay içinde internet genelinde kontrol sağlayabilecek kapasiteye ulaşmasından endişe duyduğunu ifade etti. Bu değerlendirme, Amodei’nin olası bir tehlikeye ilişkin öngörüsünü yansıtıyor.

OpenAI bu yıl halka açılmayacak

Altman, güvenlik kaygıları nedeniyle OpenAI’ın 2026’da halka açılmayacağını söyledi. Mevcut koşullarda halka arzı uygun bulmadığını ve şirketin bu konuda baskı hissetmediğini belirtti.

Musk da Amodei’nin değerlendirmesine katıldığını açıkladı. Bununla birlikte, üç ismin desteği sektör genelinde uygulanmaya başlamış ortak bir yavaşlama anlaşması anlamına gelmiyor. Anthropic ve OpenAI’ın açıkladığı ortak güvenlik adımı, bağımsız denetçi uygulamasını benimsemek.