Yapay zekâ teknolojisi, bir yandan hayatımızı dönüştürürken diğer yandan uzmanları korkutan devasa bir risk barındırıyor: Çernobil anı. Önde gelen ABD’li ve Çinli araştırmacılar, denetimsiz gelişimin toplumun yapay zekâya olan güvenini sonsuza dek sarsacak büyük bir felakete yol açabileceği konusunda hemfikir. Bir “kitlesel can kaybı olayı” veya çok daha kötü bir felaketin yaşanması, tüm dünyayı bu teknolojiye karşı geri dönülemez şekilde döndürebilir.
Çernobil anı benzetmesi, 1986’daki nükleer felaketin ardından toplumdaki nükleer enerji algısının nasıl değiştiğine ve bu alandaki gelişimin nasıl sekteye uğradığına bir gönderme. Eğer yapay zekâ kaynaklı bir kitlesel siber saldırı veya fiziksel felaket gerçekleşirse, kamuoyu yapay zekâyı bir tehdit olarak görmeye başlayabilir. Bu korku sadece teorik olmadığını söyleyebiliriz. Anthropic şirketinin, “neredeyse her işletim sistemine sızabilecek kadar güçlü” olduğu gerekçesiyle Claude Mythos modelini halka açmayı reddetmesi, riskin boyutunu gözler önüne seriyor.
Yapay zekânın siber güvenlik alanındaki potansiyeli en büyük endişelerden biri olarak öne çıkıyor. Uzmanlar, bilgisayar korsanlarının yapay zekâyı kullanarak daha karmaşık saldırıları çok daha düşük beceriyle ve küresel ölçekte gerçekleştirmesinden korkuyor. Ayrıca, yapay zekânın nükleer silah kontrol sistemlerine sızma ihtimali veya hastanelerdeki kritik sağlık kararlarında yaptığı hatalar doğrudan insan hayatını tehdit ediyor. Brezilya’da bir kadının ölümünün hastanenin yapay zekâ sisteminden dolayı gerçekleşmesi veya silahlı bir öğrenciyi tespit edemeyen yapay zekâ güvenlik sistemleri, bu risklerin gerçekliğini kanıtlıyor.
Bu tehditlere karşı, tıpkı Soğuk Savaş dönemindeki nükleer silah kontrolü gibi, küresel bir işbirliği şart. O zamanlar Sovyetler Birliği ve ABD nükleer silahların azaltılması için anlaşmışlardı. Şimdiyse Çin ve ABD gibi rakip güçlerin, ortak güvenlik standartları ve etik ilkeler çerçevesinde birleşmesi hayati önem taşıyor. Yapay zekânın sunduğu faydalardan yararlanmaya devam edebilmemiz için, henüz bir Çernobil anı yaşanmadan önce denetim ve güvenlik mekanizmalarını en üst düzeye çıkarmalıyız. Geleceğin teknolojisini inşa ederken, onun yıkıcı potansiyelini dizginlemek medeniyetin bekası için en öncelikli görevdir. Büyük bir felaketle gelebilecek Çernobil anı, yapay zekanın gelişimini hiç beklenmeyecek şekilde kısıtlayabilir.
Sitedeki diğer ‘Kimdir Nedir?’ yazılarını okumak için tıklayınız: Kimdir Nedir?
