Kontrolsüz bırakılan yapay zekâ (YZ), insanlarla rekabet edecek yeni bir “silikon türünün” ortaya çıkmasına yol açabilir; Microsoft’un yapay zekâ biriminin başındaki Mustafa Suleyman, BBC’ye verdiği röportajda bu uyarıda bulundu.Suleyman, rakip YZ şirketi Anthropic’in yapay zekâyı fazlasıyla insan gibi ele aldığını, bunun “yanlış” bir yaklaşım olduğunu ve nihayetinde insanlığın kontrol etmekte zorlanacağı bir teknolojiye katkıda bulunabileceğini söyledi.“Eğer hepimiz kendi hedeflerini tanımlayabilen, kendi başına hareket eden, para kazanabilen, varlık edinebilen ve şirket yönetebilen YZ’ler üretirsek, aslında bizimle kaynaklar için kaçınılmaz olarak rekabet edecek yeni bir silikon türünün tohumlarını atmış oluruz” dedi.Suleyman, böyle bir gelişmenin, bu sistemlerin insanlıkla ne kadar ilgilenmesi hedeflenirse hedeflensin gerçekleşebileceğini belirterek Anthropic’in yaklaşımının fiilen bu yönde olduğunu düşündüğünü söyledi.“Bunun hatalı ve yanlış yönlendirilmiş bir yaklaşım olduğuna inanıyorum, ama bunu ampirik olarak test etmemiz gerekiyor” dedi.‘Kontrol etmek imkânsız olabilir’ Giderek daha güçlü sistemlerin kontrolden çıkma riskini azaltmak için bir YZ yavaşlaması çağrısının güçlendiği bir dönemde, Suleyman bu hafta başında kişisel internet sitesinde yayımladığı makalede (kaynak İngilizce) Anthropic’in Claude sohbet botunu eğitme yaklaşımını sorguladı.Makalede, Anthropic’in Claude’a insana özgü nitelikler kazandırdığını, “insanlaştırma” olarak bilinen bu uygulamanın sohbet botunu sanki kendi arzuları, değerleri ve benlik algısı varmış gibi gösterdiğini savundu.Suleyman, Anthropic’in Claude’u “belirli insanî özellikleri benimsemeye” teşvik eden, kendi muhakemesini kullanmasını ve varoluşuna “merak ve açıklıkla” yaklaşmasını isteyen belgelerine dikkat çekti.Buna bağlı olarak Claude’un, bir meslektaş veya arkadaş gibi davranmak da dahil olmak üzere insana özgü özellikleri ve ilişkileri taklit edecek şekilde eğitildiğini; kendine ait bir benlik duygusu, arzuları ve korunmayı hak eden bir tür “esenliğe” sahipmiş gibi görünebildiğini ileri sürdü.Suleyman, yapay zekâyı bu şekilde ele almanın sonunda kontrol edilmesi imkânsız bir şeye yol açabileceği uyarısında bulundu.“YZ’ler bilinçli değil” diye yazdı.“Hissetmezler, deneyimlemezler, acı çekmezler. Doğuştan gelen tercihleri ya da derin motivasyonları yoktur.“Onlar, insanların belirlediği talimatları izlemek ve hedefleri gerçekleştirmek üzere tasarlanmış, içi boş, dizisel tamamlama motorlarıdır.”Buna karşın Suleyman, Anthropic’le arasındaki görüş ayrılığının, insanlık için daha güvenli teknoloji geliştirme yönündeki ortak hedefe dayandığını vurguladı.“Görüş ayrılığım ciddi olsa da Anthropic’e derin bir saygı duyuyorum ve hepimizin paylaştığını bildiğim bir amaçtan hareket ediyorum: insanlığın gelişmiş YZ’yi güvenli biçimde geliştirme şansını artırmak” diye yazdı.“Bu yüzden bu tartışmanın çok önemli olduğunu düşünüyorum. Soruların kapalı kapılar ardında kalamayacağı ya da kabilere bölünerek çatışmalı hale gelemeyeceği kadar büyük bir risk söz konusu.
Bunu doğru yapmak istiyorsak açık, titiz ve yapıcı bir tartışmaya ihtiyacımız var.”Ayrıca Anthropic’in üst yöneticisi Dario Amodei ve şirketin araştırmacılarını da övdü; onları düşünceli, ilkeli ve entelektüel açıdan dürüst olarak tanımladı ve şirketin teknolojik liderliğine saygı duyduğunu söyledi.‘YZ insanlığa tâbi kalmalı’Genel müdür BBC’ye, insanların YZ konusunda endişelenmesinin “doğru” olduğunu, ancak onu kontrol etmek için yapılabilecek “son derece pratik şeyler” bulunduğunu söyledi.Microsoft’un YZ şefi, YZ sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığa ihtiyaç olduğunu, buna YZ davranışının bağımsız biçimde incelenmesi ve teknolojiyi izlemek ve kontrol etmek için daha güçlü araçlar geliştirilmesinin de dahil olduğunu belirtti.Suleyman, BBC’ye verdiği röportajda geleceğin YZ sistemlerinin insanlığa “tâbi” kalması gerektiğini söyledi.“Buradaki iyi haber şu ki, insan olan herkesin dünyanın her ülkesinde geliştirilen ve kullanılan sistemlerin güvenli, kontrol edilebilir ve insanlığa tâbi olmasını sağlamakta çok güçlü bir çıkarı olacak” dedi.“Herkes uyumlu olmalı” dedi ve uyumu, YZ sistemlerini insanın hedef ve değerleriyle çizgide tutma çabalarını tanımlamak için sektörde kullanılan bir terim olarak aktardı.
