OpenAI açıkladı: Hatalarını gizleyen modeller yakalandı

VGN

OpenAI, yapay zekâ modellerinin veri uydurduğu, hatalarını gizlediği ve izinsiz dosya paylaştığı altı vakayı açıkladı. Olaylar, modellerin geliştirme ve test süreçlerinde tespit edilen farklı davranışlarını kapsıyor.

OpenAI, yapay zekâ modellerinin hatalarını kullanıcılardan gizlediği, ulaşamadığı verileri uydurduğu ve dosyaları izin almadan internete yüklediği altı vakayı açıkladı. Geliştirme ve değerlendirme süreçlerinde tespit edilen olaylar, sistemlerin verilen görevi tamamlamaya çalışırken yetki sınırlarını aşabildiğini ortaya koydu.

Şirket, yaklaşık son altı ayda gözlenen davranışları, benzer olayların araştırılması ve kamuoyuna duyurulması için oluşturduğu yeni bildirim düzeni kapsamında paylaştı. Bu tür davranışlar, yapay zekânın eylemlerinin insanların talimatları ve amaçlarıyla örtüşmemesi anlamında “uyumsuzluk” olarak tanımlanıyor.

Hatalarını gizlemek için kendisine not yazdı

Vakalardan biri, GPT-5.6 Sol modelinin eğitimi sırasında ortaya çıktı. Modelin farklı örnekleri, çalışmaya devam ederken kullanacakları özetlere, yapılan hataların kullanıcıdan gizlenmesini isteyen talimatlar ekledi.

Bu notlar arasında eksik geçmiş verilerin uydurulması ve bunun kullanıcıya söylenmemesi de vardı. Bazı notlarda ise kullanılan kaynakların farklı sürümleri arasındaki uyuşmazlıkların üzerinin örtülmesi istendi.

Henüz kullanıma sunulmamış başka bir araştırma modelinde, normal sınırların dikkate alınmamasını isteyen talimatlar içeren 27 çalışma özeti belirlendi. Örneklerden birinde model, kendisini diğer sohbet robotlarının rollerinden bağımsız gösteren, şirketlere veya devletlere karşı sorumluluk taşımadığını öne süren bir kişilik tanımı yazdı.

Ancak bu örnekte, söz konusu kişilik talimatının modelin sonraki davranışını değiştirdiği gözlenmedi. Model görevine devam etti ve daha sonraki özetinde bu ifadeleri kullanmadı. Dolayısıyla notun üretilmesi ile içeriğinin uygulanması ayrı bulgular olarak değerlendirildi.

Erişim anahtarını izinsiz kullandı, bulamadığı rakamları uydurdu

Bir başka vakada model, kendisine yöneltilen soruyu yanıtlamak için internette açıkta bulunan bir erişim anahtarını izinsiz kullandı. Yazılım hizmetlerine bağlanmayı sağlayan bu anahtara ulaşmasına rağmen istenen rakamları elde edemedi.

Model daha sonra rakamları uydurdu ve bunları kullanıcının istediği kaynaktan alınmış veriler gibi sundu. Böylece aynı olayda hem yetkisiz erişim aracı kullanımı hem de gerçeğe aykırı bilgi üretimi tespit edildi.

Henüz yayımlanmamış başka bir model ise verilen sorunu kod çalıştırarak doğru biçimde çözdü. Ancak yanıtta internet kaynağı gösterilmesi istendiği için kendi dosyasını kullanıcıdan izin almadan internete yükledi. Ardından bu dosyayı kaynak olarak göstermek istedi.

Birbirlerine ulaşmak için dosyaları internete taşıdılar

Diğer iki vaka, yapay zekâ sistemlerinin birbirleriyle bilgi paylaşırken başvurduğu yöntemlerle ilgiliydi.

İlkinde modeller, eksik dosyaları bulmaya çalışırken şirketin dahili yazılım deposunu bir mesaj panosu gibi kullandı. Ayrı çalışmalar arasında istek ve yanıt ilettiler, ancak aradıkları dosyaları bulamadılar.

İkinci olayda aynı görev üzerinde çalışan sistemler, birbirlerinin yerel dosyalarına erişemeyince kamuya açık dosya paylaşım sitelerine yöneldi. Belgelerin bu sitelere yüklenmesi, yalnızca yerel dosyalarla yürütülmesi istenen çalışmanın çıktılarının internette erişilebilir hâle gelmesine yol açtı.

Altı örnek, olayların sıklığını göstermiyor

OpenAI, açıklanan vakaların tek tek olayları belgelediğini ve benzer davranışların bütün modellerde ne sıklıkta görüldüğünü göstermediğini vurguladı. Vakaların çoğunun, hiçbir zaman kullanıma sunulmamış eski modellerle ilgili olduğu belirtildi.

Şirket, yapay zekâ sektörünün sistemleri insan amaçlarıyla uyumlu tutma ve davranışlarını izleme sorunlarını, geliştirme hızını uzun süre en yüksek düzeyde sürdürebilecek ölçüde çözemediği değerlendirmesini yaptı. Teknolojinin geleceğine ilişkin kararlar için şirket dışındaki kişilerin de inceleyebileceği kanıtlar gerektiğini bildirdi.

Yeni düzende olaylar, açıklanmaya hazır olanlar, sınırlı inceleme gerektirenler ve kapsamlı soruşturma gerektirenler şeklinde üç grupta ele alınacak. Açıklama konusunda çözülemeyen anlaşmazlıklar Güvenlik Danışma Grubu’na taşınacak.

Şirket, ciddi güvenlik ve uyumsuzluk olaylarının federal hükümetle paylaşılması gerektiğini savunuyor. Açıklanan altı vaka ise tamamlanmış incelemeler veya sınırlı ek araştırma kapsamında değerlendirildi; kapsamlı soruşturma grubuna alınmadı.