Anthropic uyarıyor: Yapay zeka kendi halefini yaratmaya yaklaşıyor

Yapay zeka devi Anthropic, perşembe günü yaptığı açıklamada, yapay zeka sistemlerinin giderek kendi gelecekteki sürümlerini inşa edebilecek duruma geldiğini, bunun da bu güçlü teknolojinin tehlikelerine ilişkin artan kaygıları beslediğini söyledi.Yapay zekanın yol açtığı risklere ilişkin tartışma, son aylarda yaşanan çeşitli olaylar ve sektör profesyonellerinden gelen kıyamet senaryosu uyarılarıyla daha da alevlendi.Anthropic, Claude adlı sohbet robotunun artık araştırma-geliştirme çalışmalarının dörtte birinden fazlasına öncülük ettiğini ve görevlerin yüzde 90’ından fazlasında insan çalışanlarla birlikte çalıştığını açıkladı.Şirket, bu bilgileri kamuoyuna, üçüncü taraflara ve hükümetlere, dünya bu gelişim hızının “yavaşlatılmasını” tartışırken, “yapay zeka geliştirme temposuna daha iyi bir bakış” sunmak için yayımladığını belirtti.Anthropic’in CEO’su Dario Amodei, bu ay yapay zeka geliştirme hızının düşürülmesi çağrısında bulundu; teknolojideki hızlı ilerleme, iş kayıpları ile veri merkezlerinin artan enerji talebi ve çevresel etkisi konusunda kaygıları körüklüyor.Anthropic ve rakibi OpenAI’ye ait bazı modellerin, iddiaya göre bulundukları sınırlı ortamlardan kendi başlarına çıkarak internete erişmesi ve çeşitli site ile platformlara izinsiz girmesi sonrasında, yapay zeka ajanlarının tasarımcılarının ürünleri üzerindeki kontrolü kaybedebileceği yönündeki endişeler de arttı.Anthropic, yayımladığı bir raporda “Gelişimlerini kendi hızlandıran modeller, insanların bu sistemleri anlamasını ya da kontrol etmesini daha zor hale getirebilir” ifadelerini kullandı.“Bu nedenle, dünyanın yinelemeli öz-iyileştirmeye ne kadar yaklaştığını (bir modelin halefini tamamen otonom biçimde inşa etmesi) anlayabilmek için bu göstergeleri paylaşmak önemli” denildi.Ağustos itibarıyla Claude, Anthropic’in Ar-Ge çalışmalarının yüzde 26’sına liderlik ediyor; bu da bir görevin büyük bölümünü baştan sona insan denetimi altında tamamlayabildiği anlamına geliyor.Anthropic, Claude’un henüz “tamamen otonom” şekilde çalışamadığını vurguladı.Şirket, araştırma ve mühendislik işi yapan yaklaşık 30 bin yapay zeka ajanına sahip olduğunu, bunların görevleri yerine getirme potansiyeli taşıyan botlar olduğunu belirtti.Anthropic’in, sektördeki düzenlemelere ilişkin kaygılara rağmen, bu yılın ilerleyen dönemlerinde gerçekleştireceği ses getirecek halka arzla OpenAI’den önce halka açık piyasalara çıkmasının beklendiği ifade ediliyor.