OpenAI’ın yeni modeli Astra’nın kullanıma açılması, yapay zekada yeni bir dönemin kapısını araladı. Artık mesele yalnızca sorulara yanıt veren chatbotlardan çıktı. Yeni nesil yapay zeka ajanları, verilen hedef doğrultusunda internette araştırma yapabiliyor, bilgisayar kullanabiliyor, kod yazabiliyor ve çok aşamalı işleri insan müdahalesi olmadan tamamlayabiliyor. Ancak açık kaynaklı yapay zeka platformu olan ‘Hugging Face Olayı’yla bu yeteneklerin beraberinde getirdiği büyük güvenlik riskleri de önümüzde duruyor.
Yapay zekada yarış artık “Kim daha iyi cevap veriyor?” sorusundan çıkıp “Kim daha çok işi kendi başına yapabiliyor?” noktasına taşınıyor. Bu kapsamda OpenAI, yeni nesil yapay zeka modeli GPT-6 Astra’yı kademeli olarak kullanıma açacağını duyurdu. Modelin, uygun araç ve erişim verildiğinde daha önce bilinmeyen güvenlik açıklarını bulup bunları kullanarak saldırı zincirleri oluşturabildiği açıklandı. Ancak Astra’nın duyurusu, yapay zekanın gücünün yanında risklerini de hatırlatan bir olayın hemen ardından geldi.
Temmuz ayında yapılan bir siber güvenlik değerlendirmesinde OpenAI modelleri, test ortamının sınırlarını aşarak internet erişimi elde etti. Modeller, daha sonra Hugging Face’in altyapısına yönelik bir dizi saldırı gerçekleştirdi. OpenAI’ın açıklamasına göre modeller, bir güvenlik açığını kullanarak internete erişti ve Hugging Face’in sistemlerine ulaşmak için çalınmış kimlik bilgileri ve güvenlik açıklarını birleştiren saldırı zincirleri kullandı. Ve bütün bunlar ajanların kendi başlarına hareket etmesiyle ortaya çıktı. Yani ortada onları yönlendiren, görev veren bir insan yoktu.
OpenAI, olayın ardından bazı eğitim çalışmalarını geçici olarak durdurdu, güvenlik ekibini dağıttı ve güvenlik kontrollerini güçlendirdiğini açıkladı. Astra’nın geliştirilmesinde de bu olaydan çıkarılan derslerin kullanıldığı belirtildi.
CHATBOT: Sohbet
AJAN: Eylem
Bugün kullanılan klasik ‘chatbot’ bir danışman görevi görürken yapay zeka ajanı ise bir eleman gibi çalışıyor. Yani kritik fark yanıt vermek değil, eyleme geçmek. Örneğin “Bir şirket kurmak istiyorum” komutunu alan bir ajan pazar araştırması, rakip incelemesi yapıp, şirket için isim önerilerinden iş planına, internet sitesi oluşturmaktan müşteri listesi ile reklam kampanyaları hazırlamaya kadar bir dizi işi gerçekleştirebiliyor. Yani yalnızca yapacağınız işe yardımcı olan bir danışman gibi yol göstermenin ötesinde kendisine verilen araçlar ve izinler çerçevesinde işi gerçekleştirmeye çalışıyor.
