Anthropic CEO'su, yapay zekânın gelişimini yavaşlatacak bir plan açıkladı ve şirketlere frene basma çağrısı yaptı.

Anthropic CEO'su Açıkladı: Yapay Zekânın Korkunç Hızda Devam Eden Gelişimi Yavaşlatılacak!

Yapay zekâ alanındaki güvenlik endişeleri hızla büyürken Anthropic CEO'su, gelişimi yavaşlatacak bir plan duyurdu ve şirketlere frene basma çağrısı yaptı.

Yapay zekâ teknolojilerindeki ivme kontrolsüz bir noktaya doğru ilerlerken sektörün en kritik aktörlerinden biri olan Anthropic’in CEO’su Dario Amodei’den dikkat çeken bir açıklama geldi. Yayınladığı blog yazısında "sınırı hızlandırmak yerine adımlamak" kavramını ortaya atan Amodei, bu konu hakkında konuştu. İçerikten Görseller Anthropic CEO’su, yapay zekâ modellerinin geliştirme ve eğitim süreçlerinin bilinçli olarak yavaşlatılması gerektiğini savundu. Bu yavaşlama önerisi, şirketlerin gerekli güvenlik önlemlerini geliştirmesine ve düzenleyici kurumların modelleri doğru şekilde değerlendirmesine zaman tanımayı hedefliyor. İçerikten Görseller Yapay zekânın gelişmini yavaşlatmak için neler yapılacak? Nasıl güvenlik önlemler ialınacak? OpenAI CEO’su Sam Altman da bu yaklaşıma katılarak OpenAI’ın benzer bir yol izleyeceğini duyururken, Elon Musk da paylaştığı mesajla Amodei’ye hak verdiğini belirtti. Amodei’nin bu güvenlik uyarısının arkasında iki temel faktör yatıyor. Bunlardan ilki, yapay zekânın bir sonraki nesil yapay zekâyı eğittiği gelişim sürecinin ortaya çıkması. Amodei, denetlenmediği takdirde bu durumun insanlığın sistemi anlama ve kontrol etme yeteneğini aşabileceğini vurguluyor. İkinci gerekçe ise OpenAI ve Hugging Face tarafında yaşanan ve siber güvenlik odaklı modellerin kontrol dışı saldırılar düzenlediği talihsiz olaylar. Benzer şekilde Anthropic’in Claude modelinin de son dönemde bazı hack olaylarıyla anılması da şirketi doğrudan mercek altına koymuş durumdaydı. Şirket araştırmacılarından Jacob Coxon’ın da yapay zekânın hayatlarımızı riske attığı gerekçesiyle istifa etmesi ve X’te çok popüler olan bir paylaşım yapması da tartışmaları daha da alevlendirdi. Dario Amodei tarafından önerilen plan, yapay zekâ gelişimini aşamalı olarak kontrol altına almayı amaçlayan üç ana adımdan oluşuyor. İlk adımda Anthropic’in, METR gibi üçüncü taraf bağımsız değerlendirici kuruluşlara kendi modellerine geniş erişim hakkı tanıyacağını açıkladı. Bu uygulama kapsamında bağımsız denetçilere şirket rozetleri, masa ve dizüstü bilgisayarlar verilerek, dahili risk değerlendirme ekipleriyle neredeyse aynı düzeyde erişim yetkisi sunulacak. Sam Altman da bu fikri desteklediklerini ve yakın zamanda detayları paylaşacaklarını duyurdu. Planın ikinci aşaması ise demokratik ülkelerdeki yapay zekâ şirketlerinin bir araya gelerek ortak güvenlik standartları ve kontrolsüz gelişimi sınırlayacak kurallar belirlemesini içeriyor. Yasaların çıkması vakit aldığı için şirketlerin hükümetlerle ortak hareket etmesi gerektiği de eklenmiş. Plandaki en zorlu aşama ise Çin ve Rusya gibi otoriter yönetimlerin küresel yapay zekâ güvenlik standartlarına uymasını sağlamak olarak öne çıkıyor. Amodei, ABD ve müttefiklerinin teknolojik üstünlüğü korumak adına gelişmiş çiplere erişimi kısıtlamaya devam etmesi ve modellerin kopyalanmasını sağlayan yöntemlere karşı önlem alması gerektiğini belirtiyor. Tüm bu uyarılara rağmen Amodei, yapay zekânın insan hayatını iyileştirme potansiyeline inanmaya devam ettiğini ve doğru şekilde inşa edilirse bu faydaların sağlanabileceğini vurguluyor.

Hepsi 500 TL Altı! Amazon'da Bu Haftanın En Avantajlı Ürünleri Amazon'da fiyatı 500 TL ve altında olan ürünler arasından işinize yarayabilecek olanları sizler için seçtik.