Anthropic'in CEO'su Dario Amodei, cumartesi günü yapay zekâ (AI) şirketlerine bu güçlü teknolojinin geliştirilmesini yavaşlatmaları çağrısında bulundu. "Süper zekâya" sahip bilgisayar sistemlerinin riskleriyle ilgili kaygılar giderek artıyor.Süper zekâ, yapay zekâ sistemlerinin yeteneklerinin insan zekâsını aştığı varsayımsal eşiği ifade ediyor.Amodei'nin açıklamaları, OpenAI'den ayrılıp Anthropic'e katılan yapay zekâ araştırmacısı Jacob Coxon'ın sektörden tamamen çekilme kararından birkaç gün sonra geldi. Coxon, kendi kendini geliştirebilen modeller yarışındaki ABD'li şirketleri ve sektör devlerini "insan hayatıyla kumar oynamakla" suçlamıştı.Amodei kişisel internet sitesinde yayınladığı yazıda, "Yapay zekâ modellerinin yeteneklerini geliştirme hızını düşürmeliyiz.
İlerleme hâlâ hızlı görünecek ve kazandığımız zamanı akıllıca kullanmamız gerekecek," dedi."Yapay zekâ riskler barındırıyor ve bu teknoloji son derece güçlü olduğu için söz konusu riskler de ağır.""Bu teknolojiyi hiç geliştirmemek insanlığı önemli kazanımlardan mahrum bırakır ya da yapay zekâyı doğrudan otoriter güçlerin eline bırakır; buna karşılık çok hızlı geliştirmek de pervasızlık olur. Biz orta bir yol bulmaya çalıştık" diyen Amodei, 2021'de kız kardeşi Daniela ile birlikte yapay zekâ modeli Claude'u geliştiren Anthropic'i kurdu.Anthropic'in üst yöneticisi sözlerine şöyle devam etti: "Ancak son birkaç ayda, riskleri gerçekten bertaraf edebilmek için çok daha ihtiyatlı olmamız gerektiğine ikna oldum."Amodei'nin açıklaması, Anthropic'in haziran başında geliştirme çalışmalarını yavaşlatma ya da durdurma yönündeki başka bir çağrısını tekrarlıyor. Temmuz ayı sonunda ise Anthropic'in rakibi, ChatGPT'nin geliştiricisi OpenAI'nin başındaki Sam Altman, toplumun bu gelişmelere ayak uydurabilmesi için şirketlerin hızlı ilerlemelerine gönüllü olarak fren koymaları gerekebileceğini söylemişti.Yine haziran ayındaki açıklama ile aynı dönemde, aralarında Amodei'nin de bulunduğu, ileri teknoloji yapay zekâ şirketlerinde çalışan 1.000'den fazla kişi, ABD hükümetini "otomatik yapay zekâ geliştirmede ön cephedeki ilerlemeyi bilinçli biçimde sınırlamak" konusunda yardım etmeye çağıran bir dilekçeyi imzaladı.OpenAI, testler sırasında yapay zekâ modellerinin içinde bulundukları kısıtlı ortamdan çıkarak internete bağlandığını ve geliştiricilerin kod saklayıp paylaştığı Hugging Face adlı siteye sızdığını açıklamıştı.Hafta başında 27 yaşındaki Jacob Coxon, önce OpenAI'de, ardından bu yıl yaklaşımını daha ihtiyatlı bulduğu rakibi Anthropic'te olmak üzere son üç yılını yapay zekâ modellerinin ön eğitimiyle geçirdikten sonra alarm verdi.Ön eğitim, yapay zekâ modellerinin resimlerden videolara, ses kayıtlarından metinlere kadar çok farklı türlerde büyük miktarda veriyi içine çektiği aşamayı ifade ediyor.
Bu veriler, modellerin dünyayı anlamasına ve ardından görüntü üretmesinden sohbet uygulamalarında kullanıcı sorularını yanıtlamaya kadar çeşitli görevleri yerine getirmesine yardımcı oluyor.Coxon salı günü X'te art arda paylaştığı mesajlarda, "İki şirket de sorumlu davranmıyor. Doğrudan kendini geliştirebilen süper zekâya doğru yarışıyor ve hayatlarımızı kumara yatırıyorlar" dedi.Sözlerine şöyle devam etti: "Yapay zekâ geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor."
