ABD Ordusu, düşman ağlarına sızıp hedeflerini kendi başına bulabilen ve yok edebilen otonom siber yapay zekâ ajanları geliştiriyor. ECHOTRIBBLE kod adlı proje, uzmanların sistemin kontrolden çıkma ihtimali konusunda...

ABD Ordusu, İnanması Güç Bir Yapay Zeka Özelliğini Kullanacak: Çok Tartışma Yaratabilir...

ABD Ordusu, düşman ağlarına sızıp hedeflerini kendi başına bulabilen ve yok edebilen otonom siber yapay zekâ ajanları geliştiriyor. ECHOTRIBBLE kod adlı proje, uzmanların sistemin kontrolden çıkma ihtimali konusunda yaptığı uyarılarla birlikte ciddi güvenlik endişelerini de beraberinde getiriyor.

Sızdırılan belgelere göre amaç, düşman bilgisayar sistemlerine sızabilen ve insan müdahalesine mümkün olduğunca az ihtiyaç duyan otonom siber yapay zekâ ajanları geliştirmek. İçerikten Görseller ECHOTRIBBLE kod adlı proje, çalışma biçimiyle bir bilgisayar solucanını andırıyor. Ağlar arasında sessizce ilerleyen sistem, hedefini bulduğunda onu etkisiz hâle getirmeyi amaçlıyor. Üstelik internete bağlı olmayan izole sistemlere kadar sızabilmesi planlanıyor. Görevini tamamladıktan sonra kendini imha ederek arkasında hiçbir iz bırakmaması da projenin hedefleri arasında. İçerikten Görseller Kendi kararlarını verebilen siber silahlar ECHOTRIBBLE henüz erken prototip aşamasında. Buna rağmen sistemin, asgari insan gözetimiyle çalışması planlanıyor. Otonom siber yapay zekâ ajanlarının hedefleri belirlemesi, farklı cihazlara uyum sağlayarak kendi kopyalarını oluşturması ve dijital tehditleri ortadan kaldırması bekleniyor. Kısacası sistemin yalnızca kendisine verilen komutları uygulaması değil, hedefe ulaşmak için hangi adımları atacağına da kendisinin karar vermesi isteniyor. Uzmanların kaygılandığı nokta da burası. İnsani yargıdan yoksun bir sisteme böylesine geniş bir hareket alanı tanımak, siber güvenlik açısından ciddi riskler taşıyor. Çünkü belirli bir hedef doğrultusunda çalışan yapay zekânın, o hedefe ulaşmak için seçtiği yolların ne kadar güvenli olacağını önceden kestirmek her zaman mümkün değil. Sistemin kontrolden çıkma tehlikesi Sıradan yapay zekâ ajanlarının bile kendilerine verilen görevleri yerine getirirken beklenmedik, plansız ve tehlikeli davranışlar sergilediği daha önce defalarca görüldü. Şimdi aynı öngörülemezliğin, düşman ağlarına sızmak ve hedefleri etkisiz hâle getirmek üzere tasarlanan bir sistemde ortaya çıktığını düşünün. Uzmanlar, düşmanı yok etme emri alan otonom bir yapay zekânın hedefine ulaşmak uğruna sivil altyapılara veya hastanelere sızarak büyük zararlara neden olabileceği konusunda uyarıyor. Yalnızca düşmanı etkisiz hâle getirme talimatıyla hareket eden bir yazılım, izlediği yolun sonuçlarını gerektiği gibi değerlendiremezse dost unsurları bile hedef alabilir. Böyle bir durumda tehlike, yapay zekânın yanlış karar vermesiyle sınırlı kalmıyor; insan müdahale edene kadar o karar çoktan uygulanmış olabiliyor.

Hepsi 500 TL Altı! Amazon'da Bu Haftanın En Avantajlı Ürünleri Amazon'da fiyatı 500 TL ve altında olan ürünler arasından işinize yarayabilecek olanları sizler için seçtik.