Hinton uyardı: Yapay zekâ kontrolü ele geçirebilir

VGN

Geoffrey Hinton, insanlardan daha zeki yapay zekâ sistemlerinin kapatma düğmesini kontrol edenleri ikna edebileceğini söyledi.

Yapay zekânın babası olarak tanınan Geoffrey Hinton, insanlardan daha zeki sistemlerin kontrolü ele geçirebileceği uyarısında bulundu. Nobel ödüllü bilgisayar bilimciye göre, tehlike ortaya çıktığında sistemi kapatma seçeneğinin bulunması bile uzun vadede güvence sağlamayabilir. Çünkü gelişmiş bir yapay zekâ, düğmenin başındaki insanı onu kullanmamaya ikna edebilir.

Düğmenin başındaki insan da ikna edilebilir

Hinton, insanların teknolojiyi kötüye kullanmasıyla yapay zekânın kendi başına denetim dışına çıkması arasında ayrım yaptı. İkinci durumda, insanı aşan ikna yeteneğine sahip bir sistemin kapatılmasını engelleyebileceğini savundu. Bu değerlendirme, gelecekteki süper zekâya ilişkin bir risk senaryosu.

ABD’de tartışılan kapatma mekanizması düzenlemesi ise geliştiricilerin tehlikeli sistemleri yavaşlatabilmesini, durdurabilmesini veya kapatabilmesini amaçlıyor. Düzenlemeyi savunan Temsilciler Meclisi üyesi Ted Lieu, şirketlerin müdahale kapasitesinin korunması gerektiğini belirtiyor.

Güvenlik kuralları teknolojinin direksiyonu

Hinton, şirketlerin içine bağımsız denetçilerin girmesini destekledi. Süper zekâ geliştirme çalışmalarının da güvenlik sorunu çözülmeden hızlandırılmasına karşı çıktı.

Düzenlemeleri otomobilin direksiyonuna benzeten bilim insanı, teknolojinin yalnızca hızına odaklanılmaması gerektiğini anlattı. Ona göre, gelişimin hangi yöne gideceğini belirleyecek kurallar da gerekli.

Uyarıyı yapan isim neden önemli?

Hinton, yapay sinir ağları alanındaki çalışmalarıyla modern yapay zekânın gelişmesine katkıda bulundu. John Hopfield ile birlikte 2024 Nobel Fizik Ödülü’nü kazandı.

Teknolojinin önemli yararlar sağlayabileceğini de vurgulayan Hinton; kitlesel işsizlik, sahte görüntüler ve seçimleri etkilemeye yönelik içerikleri riskler arasında sayıyor. Kanada’da yapay zekâ sektörünün gelişmesini desteklerken, işini kaybedebilecek çalışanlara yardım için bu şirketlerden sağlanacak vergi gelirlerinin önemine dikkat çekiyor.