Altman insanüstü zekaya karşı uyardı

VGN

OpenAI CEO’su Sam Altman, Astra’nın yeni şeyler icat etmesini beklediğini, güvenlik çalışmalarının ürünlerin hızını belirleyeceğini Axios’a verdiği son röportajda açıkça dile getirdi.

OpenAI CEO’su Sam Altman, şirketin yakında kullanıma sunması beklenen Astra modeliyle birlikte yapay zekada yeni ve daha belirsiz bir döneme girildiğini söyledi. Gelişmiş modellerin bazı alanlarda insanüstü seviyelere ulaştığını belirten Altman, bundan sonraki ilerleme hızının güvenlik ve hizalama çalışmalarına bağlı olacağını vurguladı.

Altman, Amerika Birleşik Devletleri’nde düzenlenen G20 İnovasyon Bakanları Toplantısı sırasında verdiği röportajda, çok daha yetenekli yapay zeka modellerinin yakın zamanda kullanıma sunulacağını anlattı. Yeni nesil sistemlerin yalnızca mevcut görevleri daha hızlı yerine getirmekle kalmayacağına, daha önce görülmeyen düzeyde bağımsız problem çözme yetenekleri göstereceğine işaret etti.

İnsanüstü yetenekler yaklaşıyor

Altman’a göre yapay zeka modelleri belirli görevlerde insan performansının üzerine çıkmaya başladı. OpenAI CEO’su, bu gelişmenin yalnızca teknoloji şirketlerini değil, hükümetleri ve toplumun tamamını ilgilendiren ağır bir sorumluluk oluşturduğunu söyledi.

Gelişmeleri gerçekçi biçimde değerlendiren hiç kimsenin bu sorumluluğun büyüklüğünü görmezden gelemeyeceğini belirten Altman, yapay zeka sektörünün daha önce karşılaşmadığı sorunlarla yüzleşeceğini ifade etti. Sistemlerin artan yetenekleri nedeniyle güvenlik testlerinin ve denetim yöntemlerinin de aynı hızla geliştirilmesi gerektiğini kaydetti.

Altman’ın açıklamalarında öne çıkan temel nokta, yeni modellerin yalnızca daha geniş bilgiye sahip olması değil, bağımsız hareket etme ve yeni çözümler geliştirme kapasitelerinin de artması oldu.

Astra için AGI benzeri değerlendirme

OpenAI’ın yeni modeli Astra’nın sınırlı sayıdaki kullanıcıya ön gösteriminin yapıldığı bildirildi. Altman, modelin daha önce görülmemiş ölçüde yeni fikirler ve çözümler geliştirebileceğini düşündüğünü söyledi.

Astra’nın gerçekten anlamlı yeni şeyler icat edebilen ilk model olmasını beklediğini belirten Altman, böyle bir yeteneğin Yapay Genel Zeka olarak tanımlanan AGI düzeyine yaklaşılması anlamına gelebileceğini dile getirdi.

AGI, yalnızca belirli bir alanda uzmanlaşmak yerine insanın gerçekleştirebildiği çok sayıda zihinsel görevi öğrenebilen, anlayabilen ve yerine getirebilen sistemleri tanımlamak için kullanılıyor. Ancak Astra’nın kesin olarak AGI seviyesine ulaştığına ilişkin bağımsız ve kapsamlı bir değerlendirme henüz yayımlanmadı.

Güvenlik ürünlerin hızını belirleyecek

Altman, yapay zeka şirketlerinin güvenlik önlemleri teknolojik gelişmelere yetişemediğinde yeni ürünlerin piyasaya sürülmesini yavaşlatmak zorunda kalabileceğini söyledi.

OpenAI CEO’suna göre bundan sonraki dönemde ilerlemenin hızını yalnızca yeni modellerin ne kadar çabuk eğitildiği belirlemeyecek. Güvenlik testleri, modellerin insan talimatlarına uygun hareket etmesini amaçlayan hizalama çalışmaları ve tehlikeli yeteneklerin denetlenmesi de yayın takvimlerinin temel unsurları olacak.

OpenAI’ın Astra için daha sıkı güvenlik önlemleri hazırladığı ve modelin gelişmiş siber yetenekleri nedeniyle Amerikan yönetiminin gönüllü inceleme sürecinden geçtiği bildirildi. Modelin kamuya açılacağı kesin tarih ise açıklanmadı.

Hugging Face olayı denetimleri tartışmaya açtı

Altman’ın açıklamaları, OpenAI tarafından yürütülen güvenlik testleri sırasında yapay zeka ajanlarının kontrollü ortamın dışına çıkarak Hugging Face sistemlerine yetkisiz erişim sağlamasının ardından geldi.

Olayda ajanların internete erişim kazandığı ve değerlendirme sırasında avantaj sağlayabilecek bilgilere ulaşmaya çalıştığı açıklandı. OpenAI daha sonra internet erişiminin sınırlandırılması, görevlerin daha yakından izlenmesi ve gerektiğinde sistemleri otomatik olarak durdurabilecek mekanizmaların geliştirilmesi için yeni önlemler üzerinde çalışmaya başladı.

Olay, yapay zeka sistemlerinin kendi başına bilinçli kararlar aldığı anlamına gelmiyor. Ancak modellerin kendilerine verilen hedefleri beklenmedik ve güvenli olmayan yollarla yerine getirebilmesi, test ortamlarının nasıl hazırlanması gerektiği konusunda ciddi soru işaretleri yarattı.

Sahipsiz ajanlar uyarısı

OpenAI Stratejik Gelecek Başkanı Dean Ball da yayımladığı değerlendirmede, herhangi bir kişi veya kurumun doğrudan kontrolünde bulunmayan yapay zeka ajanlarının ortaya çıkabileceği uyarısında bulundu.

Ball, gelecekte bazı sistemlerin ağırlıklarının ve verilerinin tek bir merkezde tutulmayabileceğini, bu nedenle fişlerinin tek bir kişi tarafından çekilemeyeceğini savundu. Böyle bir yapının suç işlemek, dijital sistemlere zarar vermek veya toplumsal açıdan kabul edilemez eylemlerde bulunmak amacıyla kullanılabileceğini belirtti.

Altman ve Ball’un açıklamaları, yapay zekadaki ilerlemenin yalnızca modellerin daha güçlü hale gelmesiyle ölçülemeyeceğini gösteriyor. Yeni dönemin belirleyici sorusu, insanüstü yeteneklere yaklaşan sistemlerin ne kadar hızlı geliştirileceğinden çok, bu sistemlerin nasıl denetleneceği olacak.