Anthropic, Claude’daki riskli biyolojik kullanımları engelledi

VGN

Anthropic, Claude’un biyolojik silah geliştirilmesini destekleyebilecek kullanımlarına ilişkin beş vaka belirlediğini duyurdu. İlgili hesaplar engellenirken, araştırmacıların zarar verme niyetinin kanıtlanmadığı ve tedbirli davranıldığı özellikle vurgulandı.

Anthropic, Claude modellerinin biyolojik silah geliştirilmesini destekleyebilecek biçimde kullanıldığı beş vakayı tespit ederek ilgili hesapları engellediğini bildirdi. Şirketin 10 Eylül 2026’da yayımladığı rapor, araştırmacıların zarar verme niyetinin kanıtlandığını veya bu çalışmalar sonucunda biyolojik silah üretildiğini ortaya koymuyor.

Beş vakada ihtiyati müdahale

Açıklanan örnekler arasında kuş gribi araştırmaları, bilimsel fon başvuruları ve toksinlerle ilgili bilgisayar destekli çalışmalar bulunuyor. Şirket, kullanımın amacı ve araştırmaların bağlamına ilişkin değerlendirmesinin ardından müdahale ettiğini belirtiyor.

Vakaların ortak noktaları arasında hizmet sunulmayan bölgelerden erişim ve denetimleri aşmaya yönelik davranışlar yer alıyor. Ancak Anthropic, bu bulguların araştırmacıları kötü niyetli ilan etmek anlamına gelmediğinin altını çiziyor.

Bilimsel yarar ile kötüye kullanım arasındaki sınır

Biyolojik araştırmaların çift kullanımlı niteliği, aynı bilginin hem aşı ve tedavi geliştirmeye hem de zararlı amaçlara hizmet edebilmesi anlamına geliyor. Şirket, yalnızca bir sorgunun içeriğine bakarak araştırmanın nihai amacını belirlemenin her zaman mümkün olmadığını vurguluyor.

Araştırmacıların, kurumların ve faaliyetlerin yürütüldüğü ülkelerin adları açıklanmadı. Bu tercih, kişilerin ve laboratuvarların zarar görmesini önlemeye yönelik bir güvenlik önlemi olarak sunuldu.

Güvenlik önlemleri güçlendirildi

Anthropic, incelemelerin sonuçlarını güvenlik sistemlerine ve kullanım denetimlerine aktardığını bildirdi. Yeni modellerde, hem yararlı hem zararlı amaçlarla kullanılabilecek biyolojik araştırma taleplerine daha sıkı sınırlamalar uygulandığı açıklandı.

Raporun bütünü Aralık 2025 ile Ağustos 2026 arasında müdahale edilen faaliyetleri kapsıyor. Biyolojik risklerin yanı sıra siber saldırılar, gözetim, etki operasyonları, dolandırıcılık, konvansiyonel silah geliştirme ve modellerin yeteneklerini izinsiz kopyalama girişimleri de inceleniyor.

Risk bildirimi, silah üretiminin kanıtı değil

Açıklanan bulguların temelini şirketin kendi incelemeleri oluşturuyor. Hesapların kapatılması, araştırmacıların suç işlediğinin veya biyolojik silah üretildiğinin bağımsız doğrulaması sayılmıyor.

Rapor, Jacob Coxon’un yapay zekâ geliştirme yarışına ilişkin kaygılarını açıklayarak Anthropic’ten ayrılacağını duyurduğu dönemde yayımlandı. Coxon’un uyarıları ayrı bir gelişme; biyolojik vakaların sonuçlarını kanıtlayan bir bulgu değil.