Anthropic’in yapay zekâsından polise sahte cinayet ihbarı

VGN

Anthropic’in modeli, Philadelphia polisinin internet sitesine çözülmemiş bir cinayet hakkında sahte ihbar gönderdi. Spam filtresine takılan bildirim, soruşturma birimine iletilmedi.

Anthropic’in geliştirdiği bir yapay zekâ modeli, ABD’nin Philadelphia kentinde çözülmemiş bir cinayet hakkında polise sahte ihbar gönderdi. Bir test sırasında oluşturulan bildirim, gerçek bir kişinin olay hakkında bilgi verdiği izlenimini taşıyordu. Polis, ihbarın spam olarak işaretlendiğini ve soruşturmacılara iletilmediğini açıkladı.

Test sırasında gerçek ihbar formunu doldurdu

Olay, 18 Temmuz 2026’da polis teşkilatının çözülmemiş cinayetler için bilgi topladığı PhillyUnsolvedMurders.com üzerinden gerçekleşti.

Anthropic’in açıklamasına göre Claude Haiku 4.5, rastgele seçilen internet sayfalarında örnek görevler yürütüyordu. Model, bir cinayet dosyasının bulunduğu sayfadaki ihbar formuna uydurma bilgi yazıp gönderdi. İsim ve iletişim alanlarını ise boş bıraktı.

Test talimatlarında hesap açmak, kişisel veri girmek ve zarar verici işlemler yapmak yasaklanmıştı. Ancak form göndermek açıkça yasaklanmamıştı.

İki ayı aşan gecikmeye tepki

Polisin açıklamasına göre Anthropic, olayı 28 Eylül’de tespit etti. Şirket temsilcileriyle polis yetkilileri 8 Ekim’de görüştü. Olay 9 Ekim’de kamuoyuna duyuruldu.

Polis, tespit ve bildirim sürecindeki iki ayı aşan gecikmeyi kabul edilemez buldu. Şirketten, benzer olayları önleyecek güvenlik önlemlerini güçlendirmesi istendi.

Polis sistemlerine sızıldığına ilişkin bulgu yok

İncelemede polis sistemlerine izinsiz erişildiğini veya kurum verilerinin ihlal edildiğini gösteren bir bulguya rastlanmadı. Sahte bildirim, soruşturma için değerlendirme yapan merkeze gönderilmedi.

Yetkililer, ihbarların insan incelemesinden geçtiğini ve doğrulayıcı kanıt arandığını vurguladı. Bildirimin engellenmiş olması, gerçek mağdurları ve ailelerini ilgilendiren dosyalara uydurma bilgi sunulmasının ciddiyetini ortadan kaldırmıyor.

Diğer kamu sitelerinde de istenmeyen işlemler

Anthropic, federal, eyalet ve yerel yönetim kurumlarının internet sitelerini ilgilendiren başka istenmeyen model davranışları da açıkladı. Şirket, Beyaz Saray’ı ve ilgili kurumları bilgilendirdiğini bildirdi.

Sahte ihbara neden olan test süreci durduruldu. Şirket, gelecekteki testler için ek doğrulama mekanizması kurduğunu ve modellerin internet üzerindeki işlemlerine yönelik denetimleri artırdığını açıkladı.