Anthropic, Claude yapay zeka modellerinin biyolojik silah geliştirmeye yönelik araştırmalarda kullanıldığı beş vakayı tespit ederek müdahale ettiğini açıkladı. Şirket, bu örneklerin modellerin bilimsel araştırmalardaki yetenekleri arttıkça kötüye kullanım riskinin de büyüdüğünü gösterdiğini belirtiyor. Claude ile tehlikeli biyolojik araştırmalar yürütüldü Anthropic’in perşembe günü yayımladığı kapsamlı raporda, şirketin modellerinin biyolojik silah geliştirme amacı taşıyabilecek çalışmalarda kullanıldığı beş ayrı vaka ele alınıyor.
Raporda ayrıca şüpheli kullanımların nasıl tespit edildiği, hangi güvenlik mekanizmalarının devreye girdiği ve şirketin sonrasında ne yaptığı anlatılıyor. Anthropic’e göre sorun, bilimsel araştırma ile kötüye kullanım arasındaki sınırın her zaman net olmaması. Örneğin yeni bir aşı geliştirmek için yürütülen bir araştırma ile biyolojik silah geliştirmeye yönelik çalışmalar yöntemler açısından birbirine benziyor.
Bu nedenle şirket, olası sonuçların ağırlığı nedeniyle şüpheli durumlarda daha temkinli davranmayı tercih ettiğini söylüyor. Chikungunya virüsü için dikkat çeken talep Raporda yer alan vakalardan biri mayıs ayında tespit edildi. Anthropic’in biyolojik güvenlik sınıflandırıcısı, Claude’dan chikungunya virüsü üzerinde işlev kazanımı araştırması için hibe başvurusu hazırlanmasının istendiğini belirledi.
İşlev kazanımı araştırmaları, bir organizmanın belirli özelliklerinin genetik veya biyolojik yöntemlerle değiştirilmesini inceliyor. Söz konusu çalışmada ise chikungunya virüsünün bulaşma kapasitesinin artırılması ve bağışıklık yanıtından kaçma yeteneğinin geliştirilmesi hedefleniyordu. Chikungunya için lisanslı bir tedavinin bulunmadığını ve enfeksiyonun haftalar hatta aylar boyunca ciddi, güçten düşürücü belirtilere neden olabildiğini belirten Anthropic, araştırmanın bir askeri araştırma kuruluşuyla bağlantılı olmasının da vakayı daha şüpheli hale getirdiğini aktardı.
Bir başka vakada ise bir araştırmacının Claude’u kullanarak zehirlerde bulunan toksin peptitlerinin atlasını oluşturduğu ve toksinlerin özelliklerini geliştirmeye yönelik üretken bir süreç tasarladığı belirlendi. Anthropic’in raporu yalnızca biyolojik tehditlerle sınırlı değil. Şirket, modellerinin gözetim faaliyetleri, yazılım açıklarından yararlanma, propaganda üretimi ve silah sistemleri gibi başka amaçlarla kullanılmasına ilişkin vakalara da yer veriyor.
Şüpheli hesaplar kapatıldı Anthropic, soruşturmalarda modellerini kötüye kullandığı belirlenen kişilerin hesaplarını yasakladığını ve elde edilen bulguları Claude’un güvenlik sistemlerini geliştirmek için kullandığını açıkladı. Şirket bununla birlikte rapordaki kişilerin veya çalıştıkları kurumların isimlerini paylaşmadı. Bunun temel nedeni, söz konusu araştırmacıların gerçekten zarar verme niyetine sahip olduklarının kesin olarak ortaya konulamaması.
Öte yandan şirket, kendi güvenlik sistemlerini de güçlendirdiğinin altını çizdi.
