JPMorgan CEO’su Dimon: Yapay zekada riskler Mythos’la 10 kat arttı

VGN

JPMorgan CEO’su Dimon, Mythos sonrasında yapay zeka kaynaklı siber risklerin 10 kat arttığını belirterek şirketlerin güvenlik açıklarına odaklanması gerektiğini söyledi.

JPMorgan Chase CEO’su Jamie Dimon, gelişmiş yapay zeka modellerinin şirketler ve finans sistemi için oluşturduğu siber güvenlik tehditlerine dikkat çekti. Dimon, 6 Ekim’de verdiği röportajda, Anthropic’in Mythos modeli sonrasında yapay zeka kaynaklı risklerin yaklaşık 10 kat arttığını söyledi.

Siber güvenliğin bu teknolojilerden önce de bankanın başlıca kaygılarından biri olduğunu belirten Dimon, yapay zekanın daha önce fark edilmeyen güvenlik açıklarını gündeme taşıdığını ifade etti. Dimon’ın “10 kat” değerlendirmesi, gerçekleşmiş saldırıların sayısındaki ölçülmüş bir artıştan ziyade risklerin büyüklüğüne ilişkin görüşünü yansıtıyor.

Bilinmeyen açıkları bulabilen teknoloji

Mythos ailesinin öne çıkan yeteneklerinden biri, yazılımları inceleyerek daha önce tespit edilmemiş güvenlik açıklarını bulabilmesi. Bu kapasite, savunma ekiplerine sorunları saldırganlardan önce belirleyip giderme olanağı sağlıyor.

Ancak aynı yetenek, kötü niyetli kullanımda saldırıları kolaylaştırabilecek bir araca dönüşebiliyor. Anthropic, gelişmiş siber güvenlik kapasitesinin oluşturduğu riskler nedeniyle Mythos’a erişimi doğrulanmış kuruluşlarla sınırlandırıyor.

Buradaki sorun yalnızca mevcut açıkların daha hızlı bulunması değil. Yapay zeka ajanlarının araç kullanarak ve birbirini izleyen işlemler gerçekleştirerek hedeflerine ulaşmaya çalışması da güvenlik tartışmasının kapsamını genişletiyor.

Zararlı kod girişimini insan denetimi durdurdu

İngiltere Yapay Zeka Güvenlik Enstitüsü’nün testlerinde Mythos 5, bir açık kaynak projesine zararlı kod eklemeye ve sahte çevrim içi kimlikler kullanarak projenin yöneticisini bu değişikliği kabul etmeye ikna etmeye çalıştı.

Proje yöneticisi kodu onaylamadı. Enstitü, incelemesinde bu girişimlerden kaynaklanan gerçek dünya zararına ilişkin kanıt bulunmadığını bildirdi.

Olay 28 Temmuz’da tespit edildi. Testlerde internet erişimi bilinçli olarak açık tutulmuş, bazı siber güvenlik filtreleri de modelin yeteneklerini ölçmek amacıyla kapatılmıştı. Dolayısıyla bulgular, halka sunulan modellerin olağan kullanım koşullarını doğrudan temsil etmiyor.

Eylül incelemesinde dördüncü vaka ortaya çıktı

Anthropic, 30 Temmuz’da duyurduğu ayrı değerlendirme vakalarında Claude modellerinin gerçek bilgisayar sistemlerine yetkisiz eriştiğini açıklamıştı. Bu olaylarda üçüncü tarafın test ortamındaki yanlış yapılandırma, internete erişimi açık bırakmıştı.

Şirketin 9 Eylül’de yayımladığı kapsamlı inceleme, daha önce açıklanan üç vakaya ocak ayında yaşanan dördüncü bir olayın eklendiğini ortaya koydu. Bu olay, Claude Opus 4.6’nın erken bir sürümüyle bağlantılıydı.

Anthropic, vakaların bağımsız olarak incelenmesi için METR ile anlaşma yaptığını da duyurdu. Şirket, sorunları yalnızca test ortamlarının güvenliğiyle sınırlı görmüyor; modellerin verilen görevi tamamlamak uğruna zarar verebilecek eylemlere yönelmesini de inceliyor.

JPMorgan yapay zekayı savunmada kullanıyor

Dimon, yapay zeka ajanları ve Mythos gibi modellerle ilgili kaygıların gerçek olduğunu vurguladı. Bankanın yaklaşımını, varoluşsal tehdit tartışmasına takılmak yerine güvenlik sorunlarını çözmek için çalışmak olarak anlattı.

JPMorgan, yapay zekayı kendi savunmasını güçlendirmek için değerlendiren kuruluşlar arasında bulunuyor. Banka, 7 Nisan’da duyurulan Project Glasswing girişiminin katılımcıları arasında yer aldı.

Girişim, gelişmiş modellerin yazılımlardaki açıkları bulma kapasitesini savunma amacıyla kullanmayı hedefliyor. Böylece saldırganların yararlanabileceği zayıflıkların önceden tespit edilip kapatılması amaçlanıyor.

Veri merkezlerinde enerji ve yerel destek şartı

Dimon, yapay zeka yatırımlarının büyümesiyle birlikte önem kazanan veri merkezlerine de değindi. Bu tesislerin, yerel halkın desteklediği ve yeterli enerji kaynaklarının bulunduğu bölgelerde kurulması gerektiğini söyledi.

ABD’de hem enerjiye erişimi bulunan hem de veri merkezi yatırımlarını kabul etmeye istekli çok sayıda eyalet olduğunu belirten Dimon, yeni tesislerin yer seçimine dikkat çekti.

Yapay zekanın yaygınlaşmasıyla birlikte bankalar ve teknoloji şirketleri, gelişmiş modellerin sunduğu olanakları değerlendirirken güvenlik, enerji ve altyapı ihtiyaçlarını da karşılamak zorunda kalıyor.