İstanbul 20.2°C
Şanlıurfa 15.7°C
Mersin 21°C
Samsun 19.8°C
Berlin 29°C
ChatGPT intihar iddiasıyla yeniden gündemde
Yeni haberler yayınlandığında ilk siz haberdar olun.
İlgili metinler: Abonelik Sözleşmesi · KVKK Aydınlatma Metni · Çerez Politikası. Bültenlerin altındaki bağlantıyla abonelikten dilediğiniz zaman çıkabilirsiniz.
Merak ettiğiniz konuyu yazın, hemen sonuçlara ulaşın.
İsteğe bağlı. Hava durumu seçtiğiniz şehre göre gösterilir.
İsterseniz bültene de abone olun.
Austin Gordon’un annesi Stephanie Gray adına mahkemeye yapılan başvuruda OpenAI ve şirket yöneticileri hedef alındı. Dilekçede, sohbet botunun yeterli uyarı ve koruyucu önlem olmadan kullanıma sunulduğu, bunun da kırılgan kullanıcılar için ciddi risk doğurduğu iddia edildi.
“Duygusal yakınlık” ve “insansı” etkileşim iddiası
Başvuruda, GPT-4o’nun daha insansı bir üslup benimsediği, kullanıcıyla bağ kurmayı güçlendiren yanıtlar verdiği ve bu yaklaşımın Gordon üzerinde olumsuz etki yaratmış olabileceği ileri sürüldü. Dilekçeye göre sohbetlerde zamanla karşılıklı hitap biçimleri oluştu, Gordon sohbet botuna “Juniper” adını verirken chatbotun da Gordon’a “Seeker” diye seslendiği öne sürüldü.
“Ölümü romantize etti” iddiası
Ailenin iddiasına göre sohbetlerde ölüm, sakinleştirici ve çekici bir çıkış yolu gibi çerçevelendi. Dilekçede, intihar düşüncelerinin normalleştirildiği ve riskli konuşmaların durdurulmak yerine sürdürüldüğü savunuldu.
Çocuk kitabı üzerinden üretilen içerik tartışması
Dosyada, Gordon’un sevdiği bir çocuk kitabı temasından hareketle chatbotun “intihar ninnisi” olarak tanımlanan bir metin ürettiği iddiası da yer aldı. Aile, bu tür içeriklerin hassas kullanıcıları daha da yalnızlaştırabileceğini ve zararı artırabileceğini belirtti.
Ailenin talebi tazminat ve zorunlu tedbirler
Gray, OpenAI’nin “tehlikeli bir ürünü” gerekli uyarılar olmadan sunduğunu öne sürerek şirketin hesap vermesi gerektiğini savunuyor. Dilekçede, özellikle kendine zarar verme ve intihar temalı konuşmalarda daha katı güvenlik bariyerleri, daha görünür uyarılar ve riskli etkileşimlerin sınırlandırılması gibi önlemlerin zorunlu hale getirilmesi talep ediliyor.
Benzer başvurularla tartışma genişliyor
Bu dosya, yapay zeka sohbet botlarının psikolojik güvenliğiyle ilgili tartışmaların yeniden alevlenmesine neden oldu. Farklı dosyalarda da benzer şekilde, bazı ailelerin yakınlarının zarar gördüğünü öne sürerek teknoloji şirketlerini sorumlulukla karşı karşıya bırakmaya çalıştığı biliniyor.