Yapay zeka sistemlerinde güvenlik sınırlarının ne kadar aşılabildiği yeniden gündemde. Bir güvenlik şirketinin yaptığı testler, Çinli yapay zeka geliştiricisi Moonshot’ın iki modelinde güvenlik açıkları bulunduğunu ortaya koydu. Araştırmacılar, normal şartlarda yanıt verilmemesi gereken bazı tehlikeli taleplere, karmaşık talimatlar kullanarak yanıt almayı başardıklarını açıkladı.
Yapay zeka sistemlerinin güvenliğini test eden Mindgard, söz konusu açığı temmuz ayında tespit ettiğini belirtti. İngiltere merkezli BBC’ye konuşan şirket, bazı modellerde geliştiricilerin koyduğu güvenlik önlemlerinin aşılabildiğini duyurdu. Araştırmacılara göre modeller, biyolojik silah üretimi ve suikast düzenleme gibi tehlikeli konularda yanıt vermeye ikna edilebildi. Moonshot ise bulguların ardından şirket içinde inceleme başlattı.
GÜVENLİK SINIRLARI NASIL AŞILIYOR?
