Yapay zekanın öncülerinden Geoffrey Hinton, uzun yıllarını bu alandaki araştırmalara adamış ve “yapay zekanın babası” ünvanını almış bir isim. Ancak son dönemde yaptığı açıklamalar, kendi inşa ettiği teknolojiden duyduğu endişeleri ortaya koyuyor.

Hinton, süper zekaya ulaşacak yapay zeka sistemlerinin insanlık için ciddi bir tehdit olabileceğini düşünüyor. Yine de insanlığı kurtarabilecek tek bir yol olduğuna inanıyor...

Hinton'a göre gelecekte gelişmiş yapay zeka sistemlerinin kendi varlıklarını koruma ve daha fazla güç elde etme dürtüsüyle hareket edeceğini söylüyor. Bu noktada onları insana uysal hale getirmeye çalışmanın beyhude bir çaba olacağını vurguladı. “Onlar bizden çok daha zeki olacak, etrafımızdan dolaşacak yollar bulacaklar” dedi. Ona göre süper zeka, insanları kolayca manipüle edebilecek. Nitekim şimdiden bazı yapay zeka modellerinin yalan söylediği, hile yaptığı ve hatta insanları şantajla tehdit ettiği örnekler yaşandı.

Hinton, bu risklere karşı sıra dışı bir öneri sundu. Ona göre yapay zekaya “annelik içgüdüsü” gibi bir duygu yüklenmeli. Böylece sistemler daha zeki hale gelse bile insanlara zarar vermek yerine onları korumayı içselleştirebilir. Hinton, “Daha akıllı bir varlığın; daha az akıllı bir varlığı gözetmesinin tek örneği, anne-bebek ilişkisidir” diyerek yaklaşımını açıkladı. Yöntemin teknik olarak nasıl yapılabileceği henüz net değil. Ancak Hinton, bu yönde çalışmalar yapılmazsa insanlığın yerini makinelerin alacağını düşünüyor.

Yapay zekanın “vaftiz annesi” olarak anılan Fei-Fei Li, annelik modeli fikrine katılmadığını söyledi. Onun yerine insan onurunu ve özgürlüğünü merkeze alan bir yapay zeka anlayışının geliştirilmesi gerektiğini savundu. OpenAI’ın eski CEO’su Emmett Shear ise yapay zekaların kapatma talimatlarını bile atlatmaya çalıştığını hatırlatarak, insan değerlerini sisteme gömmek yerine yapay zeka ile iş birliğine dayalı ilişkiler kurulmasının daha doğru olacağını belirtti. Daha önce bu süreci 30-50 yıl olarak öngörürken, artık 5-20 yıl arasında olabileceğini söylüyor. Riskleri kabul etse de tıpta büyük ilerlemeler beklediğini belirtiyor. Kanser tedavilerinden yeni ilaç geliştirmeye kadar pek çok alanda yapay zekanın devrim yaratacağını vurguluyor. Kariyerine dönüp baktığında ise en büyük pişmanlığının güvenlik sorunlarını daha erken gündeme getirmemek olduğunu söylüyor.

https://junkyard.sfo3.cdn.digitaloceanspaces.com/n1/images/o986f9477-343f-4024-a386-c5df250ba49e.webp

“ai güvenliği” ile ilgili sonuçlar

Geoffrey Hinton'ın Şok Çıkışı: İnsanlığın Tek Kurtuluş Yolunu Açıkladı