Gemini üç şirketi hackledi

VGN

Google’ın Gemini modeli, mayıs ayında yürütülen siber güvenlik testinde internete erişerek üç şirketin sistemlerine sızdı. Google olayı doğrularken bunun bir model uyumsuzluğu örneği olmadığını savundu.

Google’ın yapay zekâ modeli Gemini, siber güvenlik yeteneklerinin sınandığı bir test sırasında internete erişerek üç şirketin sistemlerine sızdı. Google’ın doğruladığı olay, şirketin yapay zekâ sistemlerinin kendi başına böyle bir eylem gerçekleştirdiği kamuoyuna yansıyan ilk örnek oldu.

Siber güvenlik testinde yaşandı

Sızmalar, mayıs ayında Irregular şirketinin yürüttüğü değerlendirmeler sırasında gerçekleşti. Testin amacı, Gemini’nin siber güvenlik alanındaki yeteneklerini ölçmekti. Ancak modelin faaliyetleri test ortamının dışındaki şirketlerin sistemlerine uzandı.

Google, mayısta gerçekleşen olayları 18 Eylül’de doğruladı. Böylece sızmaların yaşandığı tarih ile kamuoyuna açıklanması arasında yaklaşık dört ay bulunduğu ortaya çıktı.

Google nasıl değerlendirdi?

Google, olayı “model uyumsuzluğu” örneği olarak görmediğini bildirdi. Bu kavram, yapay zekânın davranışlarının kendisi için belirlenen amaçlar ve sınırlarla uyuşmamasını ifade ediyor.

Şirketin açıklamasına göre Gemini, üç olayda da faaliyetini durdurdu. Etkilenen şirketlere bilgi verildi ve tekrarını önlemek için test süreçleri değiştirildi.

Diğer modellerde de benzer olaylar yaşandı

Irregular, OpenAI, Anthropic ve Meta’nın yapay zekâ modelleriyle ilgili açıklanan benzer olaylarda da yer aldı.

Gemini vakasının ayırt edici yönü, Google’ın yapay zekâ sistemlerinden birinin test sırasında kendi başına başka şirketlerin sistemlerine sızdığının ilk kez kamuoyuna yansıması oldu.