Anthropic, yapay zekânın siber saldırı, propaganda ve biyolojik silah için kötüye kullanımını önlüyor

Anthropic, perşembe günü yaptığı açıklamada, kötü niyetli aktörlerin siber saldırılar, gözetim ve silah geliştirmeye katkı sağlayabilecek biyolojik araştırmalar için yapay zekâ modellerini kötüye kullanma girişimlerini engellediğini duyurdu.Şirket, yapay zekâ modelleri güçlendikçe karmaşık siber saldırıların giderek daha az teknik beceri gerektirdiğini, bunun da artık tek başına hareket eden kişilerin bile bir yıl önce imkânsız olan tehditler yaratabilmesi anlamına geldiğini belirtti.Anthropic, en yeni modellerinde, potansiyel silah uygulamalarına sahip biyolojik araştırmaları kısıtlamak için koruma önlemlerini güçlendirdiğini de açıkladı.“Burada paylaştığımız vakalar, tipik bir kötüye kullanımı değil, bugüne kadar tespit ettiğimiz en dikkat çekici ve yeni tehdit faaliyetlerinden örnekleri oluşturuyor” diyen Anthropic, bu açıklamayı Mart 2025’ten bu yana yayımladığı üçüncü kötüye kullanım raporunda yaptı.Raporda, şirketin tespit ettiğini söylediği kötü amaçlı kod parçaları ve yapay zekâ komutlarından alıntılar yer alıyor ve hükümetler ile rakip yapay zekâ şirketleri benzer suistimallere karşı uyarılıyor.“Bu çalışmayı yayımlıyoruz çünkü hizmetlerimizin kötü niyetli kullanımını açıklama sorumluluğumuz olduğuna inanıyoruz” denildi.“Modeller giderek daha yetenekli hale geldikçe, riskleri de artacak; ancak yapay zekâ geliştiricileri ve toplumun savunucuları onları daha güvenli kılmak için harekete geçerse bu riskler azaltılabilir.”Bu sonbaharda halka arz hazırlığı yapan Anthropic, raporu, araştırmacılarından birinin şirketin ve rakiplerinin yapay zekâyı sorumlu biçimde geliştirmediği endişesiyle istifa ettiğini açıklamasından iki gün sonra yayımladı.Araştırmacı, teknolojinin insan kontrolünden çıkma potansiyeline dair sektörde başka yerlerde dile getirilen uyarıları yineledi.Claude’dan bir virüsü daha tehlikeli hale getirmesi istendiAnthropic’in araştırmacıları, Aralık 2025 ile Ağustos 2026 arasında, casus yazılım satıcılarından siyasi saikle hareket eden kişilere ve propaganda yayan devlet destekli gruplara kadar uzanan aktörlerin kötüye kullanım girişimlerini tespit etti.Raporda anlatılan vakalar arasında, ismi açıklanmayan aktörlerin, biyolojik silah geliştirilmesine yol açabilecek araştırmalar için Anthropic’in modellerini kullanmaya çalıştığı örnekler yer alıyor.Şirket, bir olayda sistemlerinin, Claude sohbet robotundan bilimsel araştırma fonu için hibe başvurusu yazımına yardım etmesini isteyen bir talebi engellediğini bildirdi.“Başvuruda bahsedilen çalışma, bir organizmanın genetik olarak değiştirilerek yeni ya da güçlendirilmiş bir biyolojik özelliğe sahip olmasını amaçlayan ‘fonksiyon artırımı’ (gain-of-function) araştırmasını içeriyordu ve hedefte chikungunya virüsü vardı” denildi.Araştırma, virüsün bulaşıcılığını ve bağışıklık sisteminden kaçma kabiliyetini hedefliyordu.Chikungunya, şiddetli ağrı ve ateşe yol açan, sivrisinek kaynaklı bir virüs. Hibe önerisi, virüsü giderek daha tehlikeli hale getirecek mutasyonları güçlendirmeyi amaçlıyordu.Anthropic, bu tür araştırmaların “kesinlikle” aşı ve tedavi geliştirilmesine katkı sağlayabileceğini, ancak “patojeni daha tehlikeli hale getirmek için de kullanılabileceğini” vurguladı.‘Zararı tamamen önleyebileceğimizi garanti edemeyiz’Raporda yer alan vakaların hiçbirinde, bir istisna dışında, Anthropic’in en yeni ve en güçlü Claude Fable veya Mythos sınıfı modelleri kullanılmadı. İstisna, “bir modelin yeteneklerini izinsiz olarak elde edip başka bir modele kopyalamayı hedefleyen sanayi ölçeğinde, gizli bir kampanya”ydı.Anthropic, eski modelleri Claude Opus 4 ve 2025’ten Claude Sonnet 4.5’in, “gelişmiş bir kullanıcıya tehlikeli biyolojik araştırmalar yürütmede kayda değer biçimde yardım edebilecek eşik seviyesinin oldukça altında” olduğunu belirtti.“Bu nedenle, bu modellerdeki koruma önlemleri daha az sıkıydı ve ağırlıklı olarak, bilinen biyolojik silahların yeniden üretilmesinde acemilerin seviyesini yükseltebilecek içeriklere erişimi engellemeye odaklanmıştı” denildi.“Ancak bugün kullandığımız ve karmaşık bilimsel araştırma görevlerinin geniş bir yelpazesinde yardımcı olabilen modeller için kanıtlar artık aynı ölçüde net değil ve biz de aynı güvenceyi veremiyoruz.”Bu nedenle Anthropic, rapora göre Claude Fable 5 gibi daha yeni modellerinde, geniş bir yelpazedeki çift kullanımlı (hem sivil hem askeri amaçlı) biyolojik araştırma sorgularına erişimi kısıtlayan daha sıkı koruma önlemleri getirdi.Yapay zekâ şirketleri giderek daha güçlü modeller piyasaya sürerken, uzmanlar hükümetlere, sektörden kendi kendini denetlemesini beklemek yerine teknolojiyi düzenleme çağrısı yapıyor.Cornell Üniversitesi’nde bilgisayar bilimi yardımcı doçenti olan John Thickstun, bunun Anthropic ve OpenAI gibi şirketleri rahatsız edici bir konuma soktuğunu, zira bu şirketlerin fiilen “herhangi bir demokratik ya da müzakereci denetim olmaksızın toplum ölçeğinde değer yargıları” vermek zorunda kaldığını söyledi.Rapor, bir araştırmacının uyarısının ardından geldiAnthropic ayrıca, sıradan kullanıcı hesapları gibi görünen yüzlerce sahte sosyal medya hesabı oluşturan ve bir hafta boyunca aynı siyasi mesajı güçlendiren içerikler paylaşan grupları da tespit etti.Şirket, Rusya, İran, Türkiye ile Körfez, Güney Asya, Afrika ve Avrupa’dan çıkan toplam dokuz böyle vaka ortaya koydu.Anthropic, sosyal medya platformlarının etki operasyonlarını genellikle paylaşımlar dolaşıma girdikten sonra tespit edebildiğini, buna karşılık kendilerinin “Claude üzerinde, operasyon hâlâ planlama aşamasındayken” bunu fark edebileceğini belirtti.Rapor, Anthropic araştırmacısı Jacob Coxon’ın, şirket ile başlıca rakibi OpenAI’nin “doğrudan kendini geliştirebilen süper zekâya doğru yarıştığını ve hayatlarımızı kumara yatırdığını” söyleyerek istifa etmesinin ardından yayımlandı.Coxon, eski meslektaşlarından bazılarının, yapay zekânın on yıl bitmeden insan yaşamını tehdit edebileceğine inandığını uyardı.Anthropic, raporda yer alan tüm kötü niyetli faaliyetleri engellediğini, bulguları koruma önlemlerini güçlendirmek için kullandığını ve bilgileri devlet kurumları ile sektör ortaklarıyla paylaştığını açıkladı.Şirket, “Bu rapordaki bulguların, diğer geliştiricilerin kendi platformlarında benzer kalıpları fark etmesine yardımcı olmasını, hükümetlere ve sivil topluma ortaya çıkan tehditlerin nasıl şekillendiğine dair daha net bir tablo sunmasını ve ortak savunmayı güçlendirmesini umuyoruz” dedi.