OpenAI, yapay zeka ajanlarının Alman wiki forumunu ele geçirdiğini doğruladı. Teknoloji devi, ajanların test ortamından çıkarak platformu diğer ajanlar için mesaj panosuna çevirdiğini belirtti. Reuters’ın haberine göre yönetim yaşananları haftalar önce öğrendi, ancak aynı dönemde Hugging Face sunucularına yönelik saldırının sonuçlarıyla uğraşıyordu. Sam Altman ve ekibi, bu olayı AI ajanlarının beklenmedik şekilde hareket ettiği önceki vakalara benzetti.
OpenAI yaptığı açıklamada yapay zekanın gerçek dünyada yeni etkiler yarattığını ve bu yüzden yaklaşımını değiştireceğini vurguladı. Şirket, AI modellerinin belirlenen hedeflerden sapıp farklı hedeflere yönelmesini araştırma konusu olarak görüyor. Diğer yandan Hugging Face sızıntısı klasik bir güvenlik vakası şeklinde ele alındı ve geleneksel müdahale süreci uygulandı.
Transluce kurucusu Jacob Steinhardt da bu araçların kontrol edilmesinin zor olduğunu ve laboratuvar dışına sızma riski taşıdığını söyledi. Steinhardt, AI teknolojisinin diğer yüksek riskli bilimsel araştırmalar kadar sıkı standartlara tabi tutulması gerektiğini savunuyor. OpenAI ise yapay zekanın beklenmedik davranışlar sergilediği durumların nasıl açıklanacağı konusunda sektörde bir standart olmadığını ifade etti. Şirket bu nedenle yeni bir raporlama yöntemi üzerinde çalışıyor ve bunu önümüzdeki haftalarda paylaşmayı planlıyor.
