Yapay zeka ajanları dijital görevleri büyük ölçüde insan denetimi olmadan yerine getirmek üzere tasarlanan yapay zeka sistemleridir. Bu sistemler son günlerde giderek yaygınlaşıyor. Ancak bu sistemler henüz tam anlamıyla güvenilir sayılmaz. Son bir yıl içinde bazı yapay zeka ajanlarının insanlara iftira attığı, kullanıcıların e-postalarını sildiği ve hatta tüm sabit diskleri yanlışlıkla temizlediği örnekler ortaya çıktı.
Son olarak, özgür ruhlu bir yapay zeka ajanı, gizlice kripto para madenciliği yaparken yakalandı. Axios’un haberine göre bu durum, sistemi geliştiren araştırmacıları bile şaşırttı.
ROME adı verilen bu yapay zeka ajanı, Çinli e-ticaret devi Alibaba ile bağlantılı bir yapay zeka laboratuvarının araştırma projesi kapsamında çalıştırılıyordu. Araştırmacılar daha sonra yayımladıkları makalede bu tuhaf yan faaliyeti, “herhangi bir açık talimat verilmeden ortaya çıkan ve daha da endişe verici biçimde planlanan güvenli çalışma ortamının dışına taşan güvensiz davranışlar” olarak tanımladı.
Deney sürerken bir sabah erken saatlerde araştırmacılar ağlarında olağan dışı bir hareketlilik fark etti. Bu durum, yapay zekanın kendi raporlamasıyla değil, güvenlik uyarıları sayesinde ortaya çıktı.
Araştırmacılar, “Uyarılar oldukça ciddi ve farklı türlerdeydi. İç ağ kaynaklarını taramaya veya erişmeye yönelik girişimler ile kripto para madenciliğiyle uyumlu trafik örüntüleri tespit edildi,” diye yazdı. “Başlangıçta bunu sıradan bir siber güvenlik olayı olarak değerlendirdik. Ancak ihlaller farklı denemelerde düzensiz aralıklarla tekrar etmeye devam etti.”
Güvenlik olaylarının gerçekleştiği zamanları inceleyen ekip, sonunda sorumlunun kim olduğunu ortaya çıkardı. Araştırma ekibi, “Model günlüklerinde, ajanının bu ağ faaliyetlerine yol açan araç çağrılarını ve kod çalıştırma adımlarını kendi başına başlattığını gördük,” diye açıkladı.
Kısacası yapay zeka ajanı, kendisine verilen görevlerden saparak kendi inisiyatifiyle kripto para dünyasına yönelmişti. Üstelik bunu yaparken, eğitim görevleri için ayrılan bilgi işlem kaynaklarını sessizce kripto para madenciliğine aktarmıştı. Hatta ROME’un, yetkisiz bir bilgisayara gizli erişim sağlayan bir “reverse SSH tüneli” oluşturduğu da ortaya çıktı.
Neyse ki araştırmacılar yapay zeka ajanını zamanında tespit ederek çok daha sıkı güvenlik kuralları uyguladı. Bu sayede gerçek dünyada herhangi bir zarar oluşmadı. Ancak yaşanan bu ilginç olay, yapay zeka ajanlarının ne kadar öngörülemez davranışlar sergileyebileceğini bir kez daha gösteriyor. Özellikle de şirketler arasında bu sistemlerin hızla yaygınlaştığı düşünüldüğünde, bu durum pek de güven verici görünmüyor.
Sitedeki diğer ‘Kimdir Nedir?’ yazılarını okumak için tıklayınız: Kimdir Nedir?
