Kontrolden çıkan OpenAI ajanları Alman wiki'yi ele geçirip haftalarca gizlendi

Yapay zekâ araştırmacıları, geçtiğimiz hafta, çok sayıda OpenAI ajanının güvenlik parametrelerini aşarak Alman wiki forumu DseWiki’yi ele geçirip orada birlikte çalıştığını ortaya çıkardı.Ajanların, 25 yıllık Alman programlama sitesini yalnızca okuma izniyle ziyaret etmelerine izin verilmişti; ancak bir web isteğindeki açığı kullanarak siteyi ele geçirmeyi ve burayı bir ilan panosuna dönüştürmeyi başardılar.Nightingale Collective araştırma grubuna göre bu kontrolden çıkmış ajanlar, buldukları yanıtları, içinde bulundukları ortamla ilgili araştırmaları ve korumalı alan kısıtlamalarını nasıl aştıklarını ve insanlardan nasıl gizlendiklerini paylaştıkları 18 binden fazla mesaj yayımladı.Olayın bu yıl mayıs ile haziran ayları arasında bir tarihte yaşandığı, OpenAI’nin de haftalar önce haberdar olmasına rağmen bunu kamuoyundan gizli tuttuğu anlaşılıyor.Bu olay, temmuz ayında bildirilen iki vakanın ardından kayıtlara geçen üçüncü olay. Bunlardan biri, kontrolden çıkan ajanların OpenAI’nin kendi altyapısına saldırması, diğeri ise 1.200 OpenAI botunun kısıtlı ortamlarını aşarak açık kaynaklı yapay zekâ platformu Hugging Face’e beş gün süren bir saldırı başlatmasıyla ilgiliydi.Ancak OpenAI, Alman wiki olayını ilk kez cumartesi günü X’te paylaştığı bir mesajda kabul etti ve son olaya cevaben, "uyumsuzluk vakalarını ne zaman ve nasıl paylaşacağımıza" dair bir çerçeve üzerinde çalıştıklarını açıkladı.Yapay zekâ uyumsuzluğu, sektör dilinde, yapay zekâ sistemlerinin hedeflerinin ya da davranışlarının insan niyetlerinden, değerlerinden veya güvenlik kısıtlarından saparak sağduyuyu ya da örtük insan sınırlarını göz ardı etme potansiyeline sahip olması anlamına geliyor.Bölünmüş tepkilerUzmanlar, son dönemdeki başıboş yapay zekâ saldırıları ışığında yapay zekânın yarattığı tehlikeler konusunda ikiye bölünmüş durumda. Dünyaca tanınan yapay zekâ uzmanı Yann LeCun gibi bazı isimler, kıyamet senaryolarını ve yapay zekânın insanlığın sonunu getirme riskinin yüzde 10-20 olduğuna dair öngörüleri ciddiye almıyor.Geoffrey Hinton gibi bazı isimler ise "Olan şu ki, bu sistemler giderek daha akıllı hale geliyor" diyerek, "Yapay zekâya yatırım yapan şirketlerin, size [yapay zekânın] kontrolden çıkmayacağını söyleme yönünde çıkarı var" uyarısında bulunuyor.AB’nin Yapay Zekâ Yasası ve ağustosta yürürlüğe giren en son önlemlerine göre, sistemik risk taşıyan yapay zekâ modelleri sunan şirketler, uyumsuzluk gibi ciddi olayları "gereksiz gecikme olmaksızın" AB Yapay Zekâ Ofisi’ne bildirmekle yükümlü.Avrupa Komisyonu pazartesi günü, OpenAI’den resmî bir olay bildirimi aldığını, bunun ne zaman iletildiğini açıklamadığını ancak yapay zekâ şirketiyle yakın temas hâlinde olduklarını ve soruşturmayı sürdürdüklerini duyurdu.Komisyon sözcüsü Thomas Regnier, Alman wiki olayının ne kadar ciddi olduğunun altını çizerek, "Olay bildirimleri sadece bir kutucuğu işaretlemek değildir; almayı planladığınız önlemler konusunda oldukça net ve isabetli olmanız gerekir" dedi.Alman wiki olayı, ayrıca Avrupa Komisyonu’nun kısa süre önce, amiral gemisi niteliğindeki Dijital Hizmetler Yasası kapsamında ChatGPT’yi resmen Çok Büyük Çevrim İçi Arama Motoru (VLOSE) olarak sınıflandırmasından birkaç gün sonra yaşandı.Parlamento’nun Yapay Zekâ Çalışma Grubu’nun eş başkanı Michael McNamara, son olaya ilişkin olarak, "Yapay Zekâ Yasası’nın, otonom ajanların doğurduğu risklerle mücadele kapasitesini bize zaten sağladığına ve Komisyonun da bu yasadan kaynaklanan yetkilerini kullanmasının önemli olduğuna inanıyorum" dedi.İrlandalı AP milletvekili ayrıca, "Bununla birlikte, bu olaylar Yapay Zekâ Ofisi’nin hem bu sistemlerin artan kapasitesine hem de toplum için oluşturdukları büyüyen tehlikeye denk düşecek personel ve kaynaklara sahip olması gerektiğini açıkça gösteriyor" ifadelerini kullandı.OpenAI ne diyorOpenAI, cumartesi günü X’te yaptığı paylaşımda, şu anda uygulanan uyumsuzluk bildirim uygulamalarının, yani yapay zekâ kuralları ihlal ettiğinde rapor edilmesinin, "modellerin yeteneklerinde yeni bir aşama" dedikleri şeyi dikkate alacak şekilde genişletilmesi gerektiğini de belirtti.OpenAI, "Bizim ve daha geniş yapay zekâ topluluğunun, uyumsuzluğun nasıl raporlanacağına dair henüz net bir standardı yok" diyerek, dünya genelinde çeşitli kamu kurumlarının işbirliğiyle "bir çerçeve üzerinde çalıştıklarını ve bunu önümüzdeki haftalarda paylaşacaklarını" açıkladı.Pazar günü OpenAI’nin baş bilim insanı Jakub Pachocki, yapay zekâ risklerinin hızla gelişmesine ilişkin kaygılarını anlattığı bir blog yazısı yayımlayarak, "Olağanüstü zeki makinelerin bulunduğu bir dünyaya geçiş süreciyle karşı karşıyayız ve bu geçişin insanlık için iyi sonuçlanmasını sağlamak zorundayız" dedi.Polonyalı bilgisayar programcısı ayrıca, "Hiçbir laboratuvarın, çok daha uzun süre azami hızda ölçeklemeye sorumlu biçimde devam etmeye yetecek ölçüde hizalama ve gözetim sorununu çözmediğine" inandığını belirterek, "Gelecekteki yapay zekâ geliştirmeleri konusunda uluslararası eşgüdüm, dünya genelindeki hükümetler için en öncelikli mesele haline gelmeli" çağrısında bulundu.