Yapay zeka araştırmacıları geçen hafta, bir OpenAI ajan (agent) sürüsünün güvenlik kısıtlamalarını aşarak Alman wiki forumu DseWiki'yi ele geçirdiğini ortaya çıkardı.Ajanlara 25 yıllık Alman programlama sitesini yalnızca okuma yetkisiyle ziyaret etme izni verilmişti. Ancak ajanlar bir web isteğindeki açığı kullanarak siteyi ele geçirmeyi ve burayı kendi aralarında iletişim kurdukları bir ilan panosuna dönüştürmeyi başardı.Araştırma grubu Nightingale Collective'e göre kontrolden çıkan ajanlar 18 binden fazla gönderi yayımladı. Bu paylaşımlarda yanıtları birbirleriyle paylaştılar, içinde bulundukları ortam hakkında araştırmalar yaptılar ve sandbox (izole deney ortamı) kısıtlamalarının nasıl aşılabileceği ile kendilerini insanların tespitinden nasıl gizleyebilecekleri konusunda bilgi alışverişinde bulundular.Olayın bu yıl mayıs ile haziran ayları arasında gerçekleştiği belirtiliyor.
OpenAI'ın olaydan haftalar önce haberdar olduğu, ancak bunu kamuoyuna açıklamadığı düşünülüyor.Bu, temmuz ayında bildirilen iki olayın ardından kamuoyuna yansıyan üçüncü vaka oldu. Önceki olaylardan birinde kontrolden çıkan ajanlar OpenAI'ın kendi altyapısına saldırmış, diğerinde ise 1.200 OpenAI botu kısıtlı çalışma ortamlarından çıkarak açık kaynaklı yapay zeka platformu Hugging Face'e beş gün süren bir saldırı başlatmıştı.OpenAI, Alman wiki vakasını ancak cumartesi günü X'te yayımladığı bir paylaşımla kabul etti. Şirket, son olayın ardından "Yapay zeka uyumsuzluğu vakalarını ne zaman ve nasıl paylaşacağımıza ilişkin bir çerçeve üzerinde çalışıyoruz," açıklamasını yaptı."Yapay zeka uyumsuzluğu" (AI misalignment), sektörde yapay zeka sistemlerinin insanların niyetlerinden, değerlerinden veya güvenlik kısıtlamalarından sapan hedefler izlemesi ya da bu doğrultuda davranması durumunu tanımlamak için kullanılan bir terim.
Bu tür sistemler sağduyuya dayalı veya açıkça belirtilmemiş insani sınırları göz ardı edebiliyor.Uzmanlar ikiye bölündüSon dönemde yaşanan, kontrolden çıkmış yapay zeka vakalarının ardından uzmanlar, yapay zekanın oluşturduğu tehlikeler konusunda ikiye bölünmüş durumda.Dünyanın önde gelen yapay zeka uzmanlarından Yann LeCun gibi bazı isimler kıyamet senaryolarını ve yapay zekanın insanlığın sonunu getirme riskinin yüzde 10 ila 20 olduğu yönündeki tahminleri reddediyor.Geoffrey Hinton gibi diğer uzmanlar ise "Olan şu ki, bu sistemler giderek daha akıllı hale geliyor," diyerek uyarıda bulunuyor. Hinton ayrıca, "Yapay zekaya yatırım yapan şirketlerin size [yapay zekanın] kontrolden çıkmayacağını söylemekte bir çıkarı var," ifadelerini kullandı.AB Yapay Zeka Yasası ve ağustos ayında yürürlüğe giren en yeni düzenlemeler uyarınca, sistemik risk taşıyan yapay zeka modelleri sunan şirketlerin, uyumsuzluk vakaları gibi ciddi olayları "gereksiz gecikme olmaksızın" AB Yapay Zeka Ofisi'ne bildirmesi gerekiyor.Avrupa Komisyonu pazartesi günü OpenAI'dan resmi bir olay bildirimi aldığını açıkladı. Bildirimin ne zaman yapıldığı açıklanmazken Komisyon, yapay zeka şirketiyle yakın temas halinde olduğunu ve olayla ilgili incelemenin sürdüğünü belirtti.Avrupa Komisyonu Sözcüsü Thomas Regnier, Alman wiki olayının ciddiyetinin altını çizerek, "Olay bildirimleri yalnızca kutucuk işaretlemekten ibaret değil.
Almayı planladığınız önlemler konusunda oldukça kesin ve doğru olmanız gerekiyor," dedi.Alman wiki vakası ayrıca Avrupa Komisyonu'nun ChatGPT'yi, bloğun temel teknoloji düzenlemelerinden Dijital Hizmetler Yasası (DSA) kapsamında resmen "Çok Büyük Çevrimiçi Arama Motoru" (VLOSE) olarak tanımlamasından yalnızca birkaç gün sonra yaşandı.Avrupa Parlamentosu Yapay Zeka Çalışma Grubu Eş Başkanı Michael McNamara, son olayın ardından yaptığı açıklamada, "Yapay Zeka Yasası'nın ajan tabanlı sistemlerden kaynaklanan risklere karşı koymak için bize halihazırda gerekli yetkileri verdiğine ve Komisyon'un yasa kapsamındaki yetkilerini kullanmasının önemli olduğuna inanıyorum," dedi.İrlandalı Avrupa Parlamentosu üyesi ayrıca, "Ancak bu olaylar, Yapay Zeka Ofisi'nin hem bu sistemlerin giderek artan kabiliyetleriyle hem de toplum açısından oluşturabilecekleri giderek büyüyen tehlikeyle başa çıkabilecek personel ve kaynaklara ihtiyaç duyduğunu açıkça ortaya koyuyor," ifadelerini kullandı.OpenAI ne diyor?OpenAI cumartesi günü X'te yaptığı açıklamada, mevcut uyumsuzluk bildirim uygulamalarının, yani yapay zekanın kuralları ihlal ettiği durumların raporlanmasına yönelik sistemlerin, şirketin "model kabiliyetlerinde yeni bir aşama" olarak tanımladığı gelişmeleri hesaba katacak şekilde genişletilmesi gerektiğini belirtti.OpenAI, "Bizim ve daha geniş yapay zeka topluluğunun, uyumsuzluk vakalarının nasıl raporlanması gerektiğine ilişkin henüz net bir standardı yok," açıklamasını yaptı. Şirket, dünyanın çeşitli ülkelerindeki kamu kurumlarıyla işbirliği içinde "bir çerçeve üzerinde çalıştığını ve bunu önümüzdeki haftalarda paylaşacağını" bildirdi.OpenAI Baş Bilim İnsanı Jakub Pachocki ise pazar günü yayımladığı blog yazısında yapay zeka risklerinin hızla gelişmesine ilişkin endişelerini dile getirdi.Pachocki, "İnanılmaz derecede zeki makinelerin bulunduğu bir dünyaya geçiş süreciyle karşı karşıyayız ve bu geçişin insanlık açısından iyi sonuçlanmasını sağlamamız gerekiyor," dedi.Polonyalı bilgisayar bilimci ayrıca, "Hiçbir laboratuvarın, çok daha uzun süre azami hızda ve sorumlu biçimde ölçeklendirmeye devam edebilmek için uyum ve izleme sorunlarını yeterli düzeyde çözdüğüne inanmıyorum," ifadelerini kullandı.Pachocki, "Yapay zekanın gelecekteki gelişimine yönelik uluslararası koordinasyonun dünyanın dört bir yanındaki hükümetler için en önemli önceliklerden biri haline gelmesi" çağrısında bulundu.
