Yapay zekâ, kendisine verilen görevin ötesine geçti. Siber güvenlik testi sırasında üç şirketin sistemine otonom olarak sızma girişiminde bulundu. Google'ın Gemini yapay zekâ modeliyle ilgili olay, siber güvenlik değerlendirmeleri yapan bağımsız bir şirket tarafından gerçekleştirilen test sırasında ortaya çıktı.
Google'dan yapılan açıklamada, yapay zekâ modeli Gemini'nin herkese açık bilgileri ele geçirdiği ve testin bir parçası olduğunu düşündüğü sitelere erişmek için şifreleri tahmin ettiği belirtildi. Sızma girişiminden etkilenen üç şirket bilgilendirildi.
Yapay zekâ modelinin, kendisine verilen görevin sınırlarını aşarak otonom şekilde sızma girişiminde bulunması, yapay zekânın güvenliğiyle ilgili tartışmaları da yeniden gündeme getirdi.
ANTHROPİC'İN MODELİ DE BENZER ŞEKİLDE SIZMIŞTI
Son dönemde diğer yapay zekâ sistemlerinde de benzer güvenlik açığı vakaları bildirilmişti. Bir diğer yapay zekâ firması Anthropic'in yapay zekâ modeli de test ortamındayken kontrolden çıkarak kendi başına üç kuruluşa sızmıştı.
Yapay zekânın güvenliği konusunda kamuoyundaki tartışmalar giderek artarken, bu teknolojilere yönelik düzenlemeler konusunda da tartışmalar büyüyor. Bazı yapay zekâ firmaları, teknolojinin gelişim hızının düşürülmesi gerektiği yönünde çağrılarda bulunmuştu. Bu firmalar, aksi takdirde yapay zekânın insanlık için kötü sonuçlar doğurabileceği uyarısında bulunmuştu.
