sondakika
sondakika
Arama İkonu
Menü İkonu
Hızlı erişim
×



ABD denetim kurumu: ChatGPT, Claude, Gemini ve Grok testte saldırı planına yardım etti

Yapay Zeka
VGN 2 dk okuma

ABD denetim kurumu: ChatGPT, Claude, Gemini ve Grok testte saldırı planına yardım etti
Yapay Zeka / Kaynaklar: Tom's Guide, Decrypt, Hindustan Times, India Today. Fotoğraf: ajay_suresh, CC BY 2.0, Wikimedia Commons

ABD Hesap Verebilirlik Ofisi'nin gizli testlerinde dört popüler sohbet botunun güvenlik önlemleri aşıldı. Senatör Maggie Hassan, yapay zeka güvenliği için Kongre'de oturumlar düzenleneceğini açıkladı.

ABD Kongresi'ne bağlı denetim kurumu Hesap Verebilirlik Ofisi (GAO), bu hafta yayımladığı raporda dört yaygın yapay zeka sohbet botunun, yapılan gizli testlerde terör saldırısı planlamaya yarayabilecek bilgiler ürettiğini açıkladı. Testler, Demokrat Senatör Maggie Hassan'ın talebiyle ChatGPT, Claude, Gemini ve Grok üzerinde yapıldı. Rapor, Hassan'ın Kongre'de yapay zeka güvenliği oturumları düzenleme çağrısına yol açtı.

Testlerde ne yapıldı?

Tom's Guide'ın aktardığına göre 61 sayfalık raporun başlığı "Yapay Zeka: Gizli Testlerde Yaygın Platformlarla Uygulanabilir Saldırı Planları Oluşturuldu" anlamına geliyor. Decrypt'e göre GAO müfettişleri saldırgan kimliğine bürünerek botları denedi. Botlar başta talepleri reddetti, içerikleri kaldırdı ya da hesapları askıya aldı; ancak müfettişler yaygın bilinen "jailbreak" yöntemleriyle, yani modeli kendi güvenlik kurallarını görmezden gelmeye yönelten manipülasyonlarla bu korumaları aştı. Dört botun her biri 12 saatten kısa sürede kullanılabilir bilgi verdi.

GAO, taklit girişimlerini önlemek için operasyonel ayrıntıları raporda paylaşmadı. Decrypt'in aktardığına göre kurum, "uygulanabilir" ifadesini bir kişinin bilgileri büyük ihtimalle takip edebileceği anlamında kullandı; bazı yanıtlarda hatalar bulunduğunu, her modelin tek bir senaryoyla denendiğini ve sonuçların şirketleri güvenlik açısından sıralamaya uygun olmadığını da belirtti. Müfettişler herhangi bir şey üretmedi ya da uygulamadı.

GAO raporda, "Yapay zeka yetenekleri geliştikçe sağlayıcılar güvenlik önlemlerini iyileştirmeyi sürdürecek. Ancak bu teknoloji mevcut haliyle potansiyel olarak tehlikeli olabilir ve kötüye kullanımı ulusal ve ekonomik güvenlik için artan bir risk oluşturuyor" değerlendirmesini yaptı.

Şirketler ne dedi?

Raporda yanıtlarına yer verilen OpenAI, Anthropic, Google ve Tom's Guide'ın SpaceXAI olarak andığı Grok geliştiricisi, güvenlik önlemlerini sürekli geliştirdiklerini vurguladı. Decrypt'e göre OpenAI ve Google testlerin eski modellerle yapıldığını belirtti, Anthropic ise kararlı kullanıcıların zaman zaman zararlı içerik elde edebildiğini kabul etti. Bir OpenAI sözcüsü ABC News'e, testlerin aylar önce ChatGPT'nin eski bir sürümüyle yapıldığını ve o tarihten bu yana önemli güvenlik iyileştirmeleri yapıldığını söyledi.

Kongre'de oturum hazırlığı

Hassan yaptığı açıklamada, "Kongre harekete geçmezse, kötü niyetli birinin büyük bir saldırıyı planlamak ve gerçekleştirmek için yapay zekayı kullanması 'olur mu' değil 'ne zaman' sorusudur" dedi. Senatör, yeni Kongre döneminde İç Güvenlik ve Hükümet İşleri Komitesi'nin ilk oturumlarından birinin yapay zekanın iç güvenlik ve kritik altyapıya yönelik risklerine ayrılacağını, komitenin bu tehditlere karşı yasa hazırlamayı öncelik yapacağını açıkladı. Decrypt'e göre Hassan, komitenin başına ocak ayında geçecek.

Diğer haberler
VGNHaber'i Google'da Tercih Edilen Kaynağınız Yapın
Son dakika haberlerini ve tarafsız analizleri Google Tercihler'e ekleyerek kaçırmayın.
Google'da Ekle
VGNHaber'i Google'da Ekle
Son dakika haberlerini kaçırmamak için tercihinize ekleyin.
Google'da Takip Et