Anthropic'in kurucu ortağı: Yapay zekayı 'acil durdurma düğmesinin' zorunlu olması gerekebilir
- Yazan,Kali HaysUnvan,Teknoloji MuhabiriveYazan,Faisal IslamUnvan,Ekonomi Editörü
- Yazan,Kali Hays
- Unvan,Teknoloji Muhabiri
- Yazan,Faisal Islam
- Unvan,Ekonomi Editörü
- Yayın tarihi14 Eylül 2026, 14:42 +03Güncelleme 4 dakika önce
- Okuma süresi 4 dk
Dünyanın en büyük yapay zeka şirketlerinden birinin kurucu ortağı, üçüncü bir taraf tarafından kontrol edilebilen bir yapay zeka "acil durdurma düğmesinin" şirketler için zorunlu hale getirilmesi gerekebileceğini söyledi.
Anthropic'in yedi kurucusundan biri olan Jack Clark toplumun, yapay zeka yazılımlarının çok tehlikeli hale gelmesi durumunda tamamen kapatılmasını sağlayacak bir yöntem konusunda kurallar koymak isteyebileceğini söyledi.
Clark, Anthropic dahil olmak üzere çoğu laboratuvarın fişi çekebilmek için farklı yöntemlere sahip olduğunu belirtti ancak yasa koyucuların böyle bir mekanizmayı zorunlu kılması gerekebileceğini ifade etti.
Yapay zekanın hızlı gelişimi ve insanlık için oluşturabileceği risklere yönelik endişeler, yapay zeks şirketlerinin yöneticileri ve çalışanlarından gelen bir dizi uyarıyla gündemin merkezine taşındı.
Bazıları, kamuoyuna açık şekilde, bu teknolojinin kontrolsüz kalması halinde tüm insanları öldürebilme ihtimali olduğunu söyledi.
Anthropic'in Üst Yöneticisi Dario Amodei de hafta sonu, önceki açıklamalarıyla benzer şekilde yapay zeka geliştirme hızının yavaşlatılması ve daha yakından denetlenmesi çağrısında bulundu. Ancak bazı kişiler bu çağrının arkasındaki nedenlere şüpheyle yaklaştı.
Amodei, yapay zeka gelişimini dizginlemeye yönelik herhangi bir adımın "ticari avantajdan vazgeçilmeden" atılması gerektiğini de ekledi.
- İsrail Kültür Bakanı: NAZA filminin yönetmenleri vatandaşlıktan atılmalı
- Ergenlik çağına gelen kızlar, seks işçileriyle ilişkiye sokuluyor
- Suriye'de akaryakıt zamlarına karşı protestolar yayılıyor
- 'Ailem güvende' operasyonlarına karşı İzmir'de düzenlenen protestoya polis müdahalesi
Clark, BBC'ye yaptığı açıklamada, "acil durdurma düğmesine" ilişkin gerekliliklerin ve doğrulama süreçlerine dair ayrıntıların, yapay zeka etrafında yürütülen "daha geniş politika değerlendirmelerinin" bir parçası olması gerektiğini söyledi.
Yanıtlanması gereken soruları, "Şirketlerin kesin olarak bir acil durdurma düğmesine sahip olmasını zorunlu kılmalı mısınız? Bu düğme üçüncü bir taraf tarafından kullanılabilir mi?" şeklinde sıraladı.
"Bence bunlar toplumun bilmek isteyeceği ve nihayetinde kurallar koymak isteyebileceği türden meseleler."
Rakibi OpenAI'ın eski çalışanlarından oluşan bir grup tarafından 2021 yılında kurulan Anthropic, şu sıralar yapay zeka güvenliği konusundaki tartışmaların merkezinde yer alıyor.
Geçen hafta, yapay zekanın insanlığı yok edebileceği yönündeki endişeleri nedeniyle Anthropic'ten ayrılan bir yapay zeka araştırmacısının paylaşımı sosyal medyada geniş yankı buldu.
Buna yanıt veren Anthropic bilim insanı Evan Hubinger, kişisel olarak yapay zeka nedeniyle insan neslinin tükenmesi olasılığının "önümüzdeki on yıl içinde yüzde 10'dan fazla" olduğunu düşündüğünü söyledi.
"Yapay zekanın vaftiz babası" olarak bilinen bilgisayar bilimci ve Nobel Ödülü sahibi Geoffrey Hinton da 11 Eylül Cuma günü BBC'ye yaptığı açıklamada, yapay zekanın tüm insanları öldürme ihtimalinin yüzde 10 olmasının "mantıksız olmadığını" söyledi.
Hinton ve benzer kaygıları paylaşan diğer isimler, yapay zekanın internete bağlı önemli sistemlerin kontrolünü ele geçirerek ve bunları insanlara karşı kullanarak bunu gerçekleştirebileceğini öne sürdü.
Ancak yapay zeka sektöründeki bazı isimler, insanlığı yok edebileceğine yönelik korkuların abartıldığını veya dikkat çekmek amacıyla kullanıldığını savundu.
OpenAI botları tarafından saldırıya uğrayan geliştirici platformu Hugging Face'in yöneticisi Clement Delangue geçen hafta, "Üzgünüm ama Jacob [Coxon]'a yapay zeka kaynaklı insan neslinin tükenme riski hakkında soru sormak, klima teknisyeninize iklim değişikliğini sormaya benziyor" dedi.
Grindr'ın yöneticisi George Arison ise yapay zeka araçlarıyla ilgili korkuların şirketler tarafından iş planlarını desteklemek amacıyla kullanıldığını söyledi.
Arison, "Bu değerlemeleri haklı gösterebilmenin tek yolu, aslında 'Her sektörü ele geçireceğim, her işi ele geçireceğim ve tüm bu işleri benim yapay zekam yapacak' demektir" ifadelerini kullandı.
Kendisine tüm insanların yapay zeka tarafından öldürülmesi ihtimaline yüzde kaç olasılık verdiği sorulduğunda Clark, "Bu tür istatistiklerin çok faydalı olduğunu düşünmüyorum" dedi. Clark, yapay zekanın "tamamen düzenlenmemiş bir sektör" olarak gelişmeye devam etmesinin kötü bir fikir olduğunu da ekledi.
Clark, "Muazzam riskler içeren bir zar atıyoruz" dedi. "Önemli olan şu ki, bu sektörün gidişatını değiştirmemiz gerekiyor."
ABD'de yasa yapıcılar, şirketlerin sorunlu yapay zeka araçlarını kapatabilmelerini sağlayacak bir mekanizmaya sahip olmasını zorunlu kılacak ve "Kill Switch Act" (Acil Durdurma Yasası) olarak adlandırılan bir yasa teklifi sundu.
Teklif ayrıca belirli devlet kurumlarına, bir yapay zeka aracının kapatılmasını veya kullanımının sınırlandırılmasını talep etme yetkisi verecek.
Ancak ABD Başkanı Donald Trump, yapay zekanın gelişimini yavaşlatmaya yönelik her türlü girişimi reddetti ve sosyal medyada yaptığı paylaşımda, "Yapay zekanın dünyayı ele geçirmesi, insanlığı yok etmesi ve diğer tüm kötü şeyler bir ALDATMACADIR" dedi.
Trump, başka bir paylaşımında yapay zekaya ve veri merkezlerine karşı "bir komplo yürütüldüğünü" ve "bundan memnun olan tek ülkenin Çin olduğunu" söyledi. "YAPAY ZEKAYI KİM KAZANIRSA, KAZANAN O OLUR!" dedi.
İngiltere'de hükümet yakın zamanda bir acil durdurma düğmesi oluşturulması fikrini reddetti. Bir hükümet sözcüsü, böyle bir mekanizmanın "bunların başka yerlerde geliştirilmesini veya kötüye kullanılmasını engellemeyeceğini" söyledi.
Anthropic, popüler sohbet botu Claude'u geliştirdi ve bu yıl yapay zeka sohbet botlarının temelini oluşturan, giderek daha yetenekli birçok yapay zeka modelini piyasaya sürdü.
Anthropic ve OpenAI, yarı otonom şekilde çalışan yazılım sistemleri olan yapay zeka ajanlarının beklenmedik biçimlerde davrandığı çeşitli olayları daha sonra kendileri açıkladı.
Anthropic, insanların şirkette hisse satın almasına imkan verecek ve potansiyel olarak rekor kırabilecek bir halka arz için hazırlık yapıyor.
En son 852 milyar dolar değer biçilen OpenAI'ın da benzer bir adım atması bekleniyordu. Ancak OpenAI'ın CEO'su Sam Altman'ı cuma günü, yapay zeka güvenliği etrafındaki mevcut tartışmalar nedeniyle bunun bu yıl gerçekleşmeyeceğini söyledi.
Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti.Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.
