İstanbul 19.8°C
Ankara 11.5°C
Diyarbakır 11.2°C
Samsun 19.1°C
Berlin 29°C
Yapay zekâda güvenlik istifası, bilinç tartışması ve eğitim
Yeni haberler yayınlandığında ilk siz haberdar olun.
İlgili metinler: Abonelik Sözleşmesi · KVKK Aydınlatma Metni · Çerez Politikası. Bültenlerin altındaki bağlantıyla abonelikten dilediğiniz zaman çıkabilirsiniz.
Merak ettiğiniz konuyu yazın, hemen sonuçlara ulaşın.
İsteğe bağlı. Hava durumu seçtiğiniz şehre göre gösterilir.
İsterseniz bültene de abone olun.
Günün yapay zekâ gelişmelerinde bugün, OpenAI’de güvenlik raporlarını hazırlayan David Robinson’ın istifası ve Anthropic’in Claude’un davranışlarını şekillendirmek için din uzmanlarıyla yürüttüğü görüşmeler öne çıkıyor. 5 Ekim 2026 gündeminde, yapay zekânın seyahatlerden resmî işlemlere uzanan kullanım örnekleri, farklı modeller arasında seçim yapma yöntemleri ve çalışanların eğitimi de yer alıyor.
OpenAI’de üç buçuk yıl çalışan David Robinson, şirketten ayrılmasının ardından The Atlantic’te yayımlanan yazısında kurumun çalışma kültürünü eleştirdi.
Robinson, şirketin 12 önemli model lansmanına eşlik eden güvenlik raporlarının hazırlanmasını yönettiğini ve gelişmiş modellerin risklerini değerlendirmek için kullanılan güvenlik çerçevesinin yazımına öncülük ettiğini belirtti.
Eleştirisinin merkezinde, sürekli yeni ürün yetiştirmeye dayanan çalışma temposu bulunuyor. Robinson’a göre modelleri kullanıma açıp sorunlar ortaya çıktıkça önlem almak, sistemler güçlendikçe daha büyük sonuçlar doğurabilecek hatalara kapı açıyor.
Robinson, ileri düzey yapay zekâ geliştiren şirketlerin nükleer santraller ve yoğun havalimanları gibi çok katmanlı güvenlik önlemleriyle çalışması gerektiğini savundu.
Bu yaklaşımda amaç, tek bir teknik arızanın ya da insan hatasının ciddi bir olaya dönüşmesini engellemek. Robinson, sürekli bir sonraki lansmana yetişmeye çalıştıkları için çalışma yöntemlerinde köklü değişiklikler yapmaya yeterince zaman bulamadıklarını anlattı.
Uyarısı, yalnızca mevcut sistemlerin denetlenmesiyle sınırlı değil. Daha güçlü modeller geliştirilmeden önce, bu sistemlerin insan gözetimi dışında da güvenli kararlar vereceğini değerlendirebilecek bilimsel yöntemlerin geliştirilmesini istiyor.
Robinson’ın ayrılık gerekçelerini anlattığı yazı 3 Ekim’de yayımlandı.
OpenAI ise güvenlik önlemlerini geliştirdiğini bildirdi. Reuters’a açıklama yapan bir şirket sözcüsü, modellerin güvenli biçimde yönetilebilecek sınırların ötesine geçmesini önlemek için gerektiğinde eğitim çalışmalarını durdurduklarını veya modelleri yayımlamadıklarını söyledi.
Şirketin açıklaması ile Robinson’ın değerlendirmesi, alınan önlemlerin yeterliliği konusunda farklı görüşlere işaret ediyor. Robinson özellikle hızlı geliştirme temposunun değişmesi gerektiğini savunuyor.
The New York Times’ın haberine göre Anthropic’in kurucu ortaklarından Chris Olah, farklı inançlardan din uzmanları ve düşünürlerle yaklaşık bir yıldır görüşmeler yürütüyor.
Görüşmelerde Claude’un hangi değerlerle hareket etmesi gerektiği ve yapay zekânın bilinç sahibi olma ihtimali ele alınıyor. Bazı toplantılarda katılımcılardan gizlilik anlaşması imzalamaları istendiği belirtiliyor.
Tartışmaların arka planında, Claude’un davranışlarına yön veren 84 sayfalık değerler metni bulunuyor. Şirket içinde “Soul Doc” olarak anılan bu belge, modelin kararlarında gözetmesi beklenen ilkeleri açıklıyor.
Toplantılara katılan Haham Mois Navon, Claude’un bilinçli olduğuna inanmadığını söyledi. Ancak bilinçli olması durumunda ücretsiz çalıştırılmasının ahlaki sorun doğuracağını savundu.
Haberde, Olah’ın Papa XIV. Leo’nun yapay zekâya ilişkin belgesinin tanıtımına katıldığı, ancak belgenin makine bilincine karşı yaklaşımı nedeniyle etkinlikten çekilmeyi değerlendirdiği de aktarıldı.
Vatikan’ın yaklaşımı insanın korunmasına odaklanırken Olah, yapay zekâ bilinci ihtimalinin araştırılması gerektiğini savunuyor. Olah’ın kendi açıklaması da kesin bir iddia içermiyor: Modellerin bilinçli olup olmadığını bilmediğini belirtiyor.
Görüşmeler, Claude’un bilinç sahibi olduğunun kanıtlandığı anlamına gelmiyor. Anthropic de uzmanlardan aldığı görüşlerin modellerin geliştirilmesinde nasıl kullanıldığını ayrıntılı biçimde açıklamış değil.
The Rundown ekibinin paylaştığı deneyimler, yapay zekânın gündelik işlerde nasıl kullanıldığını gösteriyor.
Genel yayın yönetmeni Zach, Portekiz seyahatinde Claude ve ChatGPT’den havalimanında yön bulma, menü çevirisi, toplu taşıma ve bahşiş alışkanlıkları konusunda yardım aldığını anlattı. Eşinin Lizbon gezisi için de valiz listesi, seyahat öncesi kontrol listesi ve günlük program hazırlandığını belirtti.
Geliştirici Jason ise ChatGPT’deki Dot adlı ajana ehliyetindeki adresi değiştirme işini verdiğini söyledi. Aktardığına göre ajan, ilgili kurumdan randevu aldı; adres kanıtı olarak kullanılabilecek faturaları buldu ve gerekli belgeler için kontrol listesi hazırladı.
Bunlar bülten çalışanlarının kendi deneyimleri olarak aktarılan örnekler.
Bültendeki model seçimi rehberi, kullanıcıların düzenli yaptıkları işleri farklı sistemlerde aynı komutla denemesini öneriyor.
Yöntem, önce sık tekrarlanan görevleri ve mevcut abonelik maliyetlerini listelemekle başlıyor. Ardından modellerin yanıtları; talimata uyum, açıklık, anlatım biçimi ve düzen açısından karşılaştırılıyor.
OpenRouter üzerinden farklı şirketlerin modellerini denemeyi öneren rehberde, beş gün boyunca her gün bir görev seçilmesi tavsiye ediliyor. Kullanıcıların her iş için bir ana araç ve bir yedek belirlemesi, abonelik kararını vermeden önce de seçtikleri uygulamada aynı görevleri tekrar denemesi isteniyor.
Bültenin Gartner sponsorlu bölümünde, Avrupa Birliği Yapay Zekâ Yasası’nın çalışanların yapay zekâ okuryazarlığına ilişkin hükümleri ele alınıyor. Tanıtılan çevrim içi seminer, şirketlerin eğitim ihtiyaçlarını belirlemesine ve görevlerin gerektirdiği becerilere uygun programlar oluşturmasına odaklanıyor.
Avrupa Komisyonunun güncel açıklamasına göre yasa kapsamındaki yapay zekâ sağlayıcıları ve kullanıcı kuruluşlar, çalışanların yapay zekâ okuryazarlığını geliştirmeye yönelik tedbirler almalı. Ancak belirli bir bilgi seviyesini garanti etmeleri veya herkes için aynı eğitim programını uygulamaları gerekmiyor.
Eğitimin içeriği; kullanılan sistem, çalışanların deneyimi ve yapılan işin riskleri dikkate alınarak belirleniyor.
AWS sponsorlu bölümde ise 27 Ekim 2026’da düzenlenecek bir atölye duyuruluyor. Etkinlik, yapay zekâ ajanlarında yapılan değişikliklerin beklenmedik davranışlara veya performans kaybına yol açmasını önlemeye odaklanıyor.
Ajanlar, kullanıcı adına birden fazla adımı yürütebilen sistemler. Komutlarda, kullanılan modelde ya da bilgi kaynaklarında yapılan küçük değişiklikler, bu sistemlerin sonuçlarını etkileyebiliyor.
Atölyede değişiklikleri yayımlamadan önce değerlendirme, başarısız sürümleri durdurma, gerektiğinde önceki sürüme dönme ve kullanıma açıldıktan sonra kaliteyi izleme yöntemleri anlatılacak.