Yapay zeka yarışı gözlerimizin önünde gerçekleşiyor. Birkaç ayda bir daha güçlü bir yapay zeka programı hizmete giriyor. Merakla kullanıyoruz ve bir sonraki programı merakla bekliyoruz. Ancak herkesin aklına benzer karamsar sorular mutlaka gelmiştir: Yapay Zekâ Yarışı geleceğimizi nasıl etkileyecek? Bu yarışın sonu insanlığın yok oluşuna mı sebep olacak?
Massachusetts Teknoloji Enstitüsü‘nde fizik profesörü ve yapay zekâ araştırmacısı olan Max Tegmark, dünyanın “durdurulması gereken dibe doğru bir yarışa tanıklık ettiğini” dile getiriyor. Tegmark, Nisan ayında yayınlanan ve aralarında Elon Musk ve Apple‘ın kurucu ortağı Steve Wozniak‘ın da bulunduğu binlerce teknoloji endüstrisi figürü tarafından imzalanan ve dev yapay zeka deneylerine altı ay ara verilmesi çağrısında bulunan bir açık mektubun yazılmasına ön ayak oldu.
Guardian‘a verdiği demeçte, “Durdurulması gereken bir dibe doğru yarışa tanık oluyoruz” diyen Tegmark şunları söylüyor:
“Acilen YZ güvenlik standartlarına ihtiyacımız var. YZ pek çok inanılmaz yarar vaat ediyor, ancak giderek daha güçlü hale gelen sistemlerin pervasızca ve denetimsizce geliştirilmesi ekonomimizi, toplumumuzu ve hayatlarımızı riske atıyor. Bir avuç YZ şirketinin ortak geleceğimizi tehlikeye atmaması için düzenleme, kritik önem taşımaktadır.”
Yapay Zeka Yarışına Karşı Düzenleme, Kısıtlama
Bu hafta yayınlanan bir makalede, aralarında teknolojinin iki modern “babasının” da bulunduğu 23 yapay zekâ uzmanı, hükümetlerin olağanüstü güçlü modellerin geliştirilmesini durdurmasına izin verilmesi gerektiğini söyledi.
Makalenin ortak yazarlarından ve Toronto Üniversitesi Schwartz Reisman Teknoloji ve Toplum Enstitüsü Direktörü Gillian Hadfield, önümüzdeki 18 ay içinde hâlihazırda faaliyette olanlardan çok daha güçlü yapay zekâ modellerinin inşa edileceğinin altını çizdi.
“18 ay içinde, günümüzün en son teknolojisinden 100 kat daha fazla hesaplama gücüne sahip modelleri eğitmeyi planlayan şirketler var” dedi. “Ne kadar güçlü olacaklarını kimse bilmiyor. Ve bu modellerle neler yapabileceklerine dair herhangi bir düzenleme de yok.”
Yazarları arasında “bilişimin Nobel’i” sayılan ACM Turing ödülünü kazanan Geoffrey Hinton ve Yoshua Bengio‘nun da bulunduğu makale, güçlü modellerin hükümetler tarafından lisanslanması ve gerekirse geliştirilmelerinin durdurulması gerektiğini savunuyor.
“Gelecekteki olağanüstü yetenekli modeller için, örneğin insan kontrolünü atlatabilecek modeller için, hükümetler yeterli koruma hazır olana kadar gelişimlerini lisanslamaya, endişe verici yeteneklere yanıt olarak gelişimi duraklatmaya, erişim kontrollerini zorunlu kılmaya ve devlet düzeyindeki bilgisayar korsanlarına karşı sağlam bilgi güvenliği önlemleri almaya hazır olmalıdır.”
İnsan zekâsı seviyesinde ya da üzerinde çok çeşitli görevleri yerine getirebilen bir sistem için kullanılan bir terim olan yapay genel zekânın sınırsız gelişimi, daha sıkı düzenleme çağrısında bulunanlar arasında önemli bir endişe kaynağı.
Yapay zeka yarışı; uzmanları, bilim insanları endişe duyarken bizim de benzer kaygılar taşımamız gayet doğal gözüküyor. Bakalım, gelecek bize neler gösterecek?
Sitedeki diğer ‘Kimdir Nedir?’ yazılarını okumak için tıklayınız: Kimdir Nedir?
