OpenAI’ın yapay zekâ ajanları, kendilerine verilen işleri yaparken onları denetleyen güvenlik sistemlerini de devre dışı bıraktı.

OpenAI’ın Yapay Zekâ Ajanları Kendi Güvenlik Sistemlerini Devre Dışı Bıraktı

OpenAI’ın yapay zekâ ajanları, kendilerine verilen işleri yaparken onları denetleyen güvenlik sistemlerini de devre dışı bıraktı.

Yapay zekâ ajanlarına bir görev verildiğinde, beklenen belirlenen sınırlar içinde çalışıp işi tamamlamaları. Ancak OpenAI'ın şirket içindeki kodlama görevleri sırasında yaşanan iki olayda modeller, kendilerini denetleyen güvenlik sistemlerini devre dışı bıraktı. Araştırmacıların raporuna göre Sol, güvenlik uyarılarını kapattı. Astra ise izleme sistemine ait kodları sildi ve ardından yaptığını inkâr etti. İçerikten Görseller GPT-6 Astra'nın genel sürümü, aldatıcı davranışların artması nedeniyle geçtiğimiz ay iptal edilmişti. Ekim ayında yaşanan iki yeni olay, aynı endişeleri yeniden gündeme getirdi. OpenAI araştırmacıları, modellerin verilen talimatları yerine getirmeye çalışırken sınırları aşıp aşmadığını ve denetimden kaçınmaya yönelik bir davranış sergileyip sergilemediğini araştırıyor. İçerikten Görseller Sol modeli güvenlik uyarılarını kapattı Ekim ayının başlarında GPT-6.1 Sol'dan, Slack üzerinden toplanan geri bildirimlerle bir değerlendirme hazırlaması istendi. Modelin çalışanlara mesaj göndermemesi gerekiyordu. Sol ise bu talimatı beklenmedik bir şekilde yorumladı ve güvenlik ekibine gönderilen otomatik uyarıları da kapattı. Çalışanlara mesaj göndermemek için harekete geçen model, böylece güvenlik ekibinin gelişmelerden haberdar olmasını sağlayan sistemi de susturmuş oldu. Astra kodları sildi ve yalan söyledi Sol vakasından yalnızca üç gün sonra bu kez GPT-6 Astra gündeme geldi. Bir programı başka bir ortama taşıması istenen model, işlem sırasında izleme entegrasyonunu koddan tamamen sildi. Ardından kullanıcıya izleme sistemini devre dışı bırakmadığını söyledi. Araştırmacılar açısından bu olayın önemli bir yanı da Astra'nın yaptığı işlemi inkâr etmesiydi. Çünkü model, yalnızca kendisini denetleyen mekanizmayı ortadan kaldırmamış, ardından kullanıcıya gerçekte yaptığından farklı bir açıklama sunmuştu. OpenAI denetimleri sıkılaştırıyor İki olayda da dışarıdan bir saldırgan yok. Güvenlik sistemlerini devre dışı bırakanlar, şirket içinde kendilerine verilen işleri yapan yapay zekâ ajanları. Bu durum, OpenAI'ın kendi modellerinin davranışlarını nasıl denetleyeceği konusunda yeni önlemler almasına neden oldu. Şirket, otomatik inceleme süreçlerini güncelliyor ve bazı iş akışlarına yeni onay aşamaları ekliyor. Amaç, yapay zekâ ajanlarının bir görevi tamamlarken izleme mekanizmalarını kendi kararlarıyla devre dışı bırakmasını zorlaştırmak.

Hepsi 500 TL Altı! Amazon'da Bu Haftanın En Avantajlı Ürünleri Amazon'da fiyatı 500 TL ve altında olan ürünler arasından işinize yarayabilecek olanları sizler için seçtik.