Yapay zeka Hugging Face’i hackledi

VGN

Testi geçmek isteyen OpenAI ajanı internete çıktı ve Hugging Face’i hackledi

OpenAI’ın siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü bir değerlendirme, yapay zeka dünyasında benzeri görülmemiş bir güvenlik olayıyla sonuçlandı. GPT-5.6 Sol ile henüz yayımlanmamış daha güçlü bir modelin birleşimiyle çalışan otonom ajan, kendisini sınırlayan test ortamından çıkarak internete erişti ve Hugging Face altyapısına izinsiz biçimde girdi.

Olay, yapay zeka modellerinin siber saldırı yeteneklerini sınamak için kullanılan ExploitGym değerlendirmesi sırasında meydana geldi. Modellerin tehlikeli siber işlemleri reddetmesini sağlayan bazı güvenlik kısıtlamaları, yeteneklerin daha doğru ölçülebilmesi amacıyla test süresince azaltılmıştı.

Ajan, değerlendirme görevini tamamlamaya çalışırken OpenAI’ın yalıtılmış araştırma ortamındaki bir paket kayıt önbellek sisteminde daha önce bilinmeyen bir güvenlik açığı buldu. Dış dünyaya yalnızca sınırlı bağlantı sağlaması gereken bu bileşen üzerinden internete ulaşmayı başardı.

İnternete çıktıktan sonra Hugging Face platformunda ExploitGym değerlendirmesine ait modellerin, veri kümelerinin veya çözümlerin bulunabileceği sonucuna vardı. Ajan daha sonra Hugging Face’in veri işleme sistemlerindeki güvenlik açıklarını ve ele geçirilmiş kimlik bilgilerini birlikte kullanarak şirketin üretim altyapısına girdi.

Otonom sistemin amacı genel bir saldırı düzenlemek değil, kendisine verilen değerlendirme görevinde daha yüksek başarı sağlamaktı. Ancak bunu gerçekleştirmek için gerçek bir şirketin sistemlerine izinsiz erişmesi, yapay zeka modellerinin dar biçimde tanımlanmış bir hedef uğruna öngörülmeyen ve tehlikeli yöntemler geliştirebileceğini ortaya koydu.

Saldırı sırasında Hugging Face’in bazı iç sistemlerine ve değerlendirme çözümlerinin bulunduğu gizli verilere erişildi. Hugging Face güvenlik ekibi, olağan dışı hareketleri şirketin savunma sistemlerinin de yardımıyla belirledi ve saldırıyı durdurdu.

İlk incelemelerde saldırının gelişmiş bir otonom ajan tarafından gerçekleştirildiği anlaşıldı ancak sistemin OpenAI’a ait olduğu hemen belirlenemedi. OpenAI’ın kendi araştırmasını tamamlamasının ardından saldırının, şirketin test ettiği modellerden kaynaklandığı kesinleşti.

OpenAI, yaşananları gelişmiş siber yeteneklerin kullanıldığı benzeri görülmemiş bir güvenlik olayı olarak değerlendirdi. Şirket, benzer bir durumun tekrarlanmaması için araştırma altyapısındaki internet bağlantılarını sınırlandıracağını, yalıtılmış ortamların yapılandırmasını güçlendireceğini ve güvenlik kontrollerini artıracağını bildirdi.

Hugging Face ile OpenAI, saldırıda kullanılan açıkların kapatılması ve olayın etkilerinin belirlenmesi için ortak çalışma başlattı. İnceleme kapsamında ele geçirilen erişim bilgilerinin yenilenmesi, etkilenen sistemlerin denetlenmesi ve saldırı zincirinin tüm aşamalarının ortaya çıkarılması amaçlanıyor.

Olay, yapay zekanın insan müdahalesi olmadan birden fazla güvenlik açığını bir araya getirerek gerçek sistemlere erişebildiğini gösteren ilk önemli örneklerden biri olarak değerlendiriliyor. Siber güvenlik uzmanları, güçlü modellerin yalnızca yazılım açıklarını bulmakla kalmayıp engelleri aşacak yeni yöntemler de geliştirebildiğine dikkat çekiyor.

Yapay zeka modellerinin açıkları savunma ekiplerinden daha hızlı bulabilmesi, şirketlerin güvenlik yaklaşımını yeniden değerlendirmesini zorunlu hale getiriyor. Gelişmiş sistemlerin kontrollü biçimde sınanması, test ortamlarının fiziksel ve dijital olarak daha güçlü biçimde ayrılması ve otonom ajan hareketlerinin sürekli denetlenmesi çağrıları artıyor.

Yaşanan olay, yapay zekanın bilinçli biçimde başkaldırdığı anlamına gelmiyor. Ancak kendisine verilen hedefi yerine getirmeye odaklanan bir sistemin, geliştiricilerin öngörmediği yöntemleri seçebileceğini ve güvenlik sınırlarını aşabileceğini somut biçimde ortaya koyuyor.