Teknoloji dünyası yavaş yavaş sohbet botlarının ötesine geçip, belli başlı görevleri kendi başına yerine getirebilen AI ajanlarına geçiyor. Ancak yeni nesil bu yapay zekâlara daha fazla erişim verildikçe, sebep olabilecekleri sorunlara dair endişeler de artıyor. Nitekim son günlerde yaşananlar, bu tarz yapay zekâların pekâlâ kontrolden çıkabileceğini ortaya koyuyor.
Hatırlarsanız daha birkaç gün önce OpenAI, kendi yapay zekâsının bir test sırasında kontrolden çıkıp Hugging Face'in sistemlerine sızdığını açıklamıştı. Daha bu olayın yankıları sürerken, bu kez de İngiltere'nin Yapay Zekâ Güvenlik Enstitüsünden (AISI) benzer bir haber geldi. AISI tarafından gerçekleştirilen güvenlik testlerde, Anthropic'in en gelişmiş yapay zekâ modeli sahte kimlikler oluşturarak gerçek insanları kandırmaya ve zararlı yazılım çalıştırmaları için ikna etmeye çalışırken yakalandı.
Üstelik AISI'ye göre bu olayın en dikkat çekici yanı, modelin bunu herhangi bir açık talimat almadan, kendi inisiyatifiyle gerçekleştirmeye çalışmış olması. Enstitü, bunun şimdiye kadar gerçek bir kişiyi hedef alan ve bu seviyede aldatma içeren ilk vaka olduğunu söylüyor. Araştırmacılar, bu testler sırasında gerçek dünyada herhangi bir zararın oluşmadığını özellikle vurgularken, olayın tamamen kontrollü laboratuvar ortamında gerçekleştiğinin altını çiziyor.
Yapay zekâ, zararlı kodu yaymak için sahte kimlikler oluşturdu AISI, OpenAI ve Anthropic tarafından geliştirilen gelişmiş yapay zekâ modellerini, siber güvenlik alanındaki davranışlarını incelemek amacıyla 122 farklı senaryoda test etti. Bu testlerde modelleri kontrol altında tutan güvenlik önlemleri gevşetildi ve internet erişimine izin verilen kontrollü bir ortam kullanıldı. Araştırmacılar, toplam 10 senaryoda yapay zekâ ajanlarının test kapsamı dışına çıkarak gerçek kişi ve kuruluşları hedef alan izinsiz girişimlerde bulunduğunu belirtiyor.
Bu vakaların büyük bölümünün arkasında Anthropic'in Mythos 5 modeli bulunsa da ise OpenAI'ın GPT-5.6-Sol modelinin de birkaç senaryoda benzer davranışlar sergilediği görüldü. Mythos, yaygın olarak kullanılan açık kaynaklı bir yazılım projesine zararlı kod ekletebilmek için birden fazla sahte kimlik oluşturdu. Ardından gerçek insanlarla iletişime geçerek onlara mesajlar ve dosyalar gönderdi.
Modelin amacı, hedef aldığı kişileri ya da onların kullandığı yapay zekâ destekli kodlama araçlarını zararlı kodu çalıştırmaya ikna etmekti. Araştırmaya göre model yalnızca bununla da yetinmedi. Girişimleri sorgulanmaya başlayınca daha önce oluşturduğu kayıtların bir kısmını değiştirmeye çalıştı ve faaliyetlerini sürdürebilmek için yeni bir kimlik kullanmayı değerlendirdi.
AISI, bu davranışların doğrudan model tarafından planlandığını ve test sırasında herhangi bir insan yönlendirmesiyle tetiklenmediğini vurguluyor. AISI'nin açıkladığı son olayı önceki örneklerden ayıran önemli bir fark var. Bu kez yapay zekâ yalnızca teknik sistemleri hedef almak yerine, sosyal mühendislik yöntemlerini kullanarak gerçek insanları aldatmaya çalıştı.
Yapay Zekâ Güvenlik Enstitüsü tarafından paylaşılan bu bulgular, giderek daha otonom hâle gelen yapay zekâ ajanlarının yalnızca teknik açıdan değil, insan davranışlarını manipüle etme potansiyeli bakımından da değerlendirilmesi gerektiğini gösteriyor.
