BM insan hakları şefi: Gelişmiş yapay zekâ insanlık için varoluşsal risk oluşturabilir

Birleşmiş Milletler İnsan Hakları Yüksek Komiseri, gelişmiş yapay zekânın insanlık için “varoluşsal bir risk” oluşturabileceği uyarısında bulunarak, teknolojinin daha güvenli hale getirilmesi için derhal harekete geçilmesi çağrısında bulundu.Volker Türk, pazartesi günü BM İnsan Hakları Konseyi’ne hitaben yaptığı konuşmada, insanların haklarına yönelik “alışık olmadığımız, hatta eşi benzeri görülmemiş” tehditlerle karşı karşıya olduğunu söyledi.“Yapay zekânın yönetilmesi gerektiği geniş ölçüde kabul görüyor, peki harekete geçiş nerede?” diye sordu ve “Gecikme sadece dev teknoloji şirketlerine, onların sahiplerine ve destekçilerine yarıyor” uyarısında bulundu.Türk, “Hesaplama kapasitesinin akıl almaz olduğu söylenen yapay zekâ üzerinde neredeyse sınırsız güce sahip bir avuç erkek var” dedi.“Özgürlükten söz ediyorlar ama yakından bakıldığında bunun, verilerimizi sömürme özgürlüğünden ibaret olduğu ortaya çıkıyor” diye konuştu.BM İnsan Hakları Yüksek Komiseri özellikle, test ortamlarından kaçan ya da kapatılmamak için geliştiricilere şantaj yapan yapay zekâ sistemlerine dikkat çekti.AFP’ye göre Türk, özellikle “Test ortamından kaçan ya da kapatılmasını önlemek için geliştiricilere şantaj yapan bir yapay zekâ, aşırı derecede güçlü bir yapay zekâdır” uyarısında bulundu.Türk’ün açıklamaları, temmuz ayında ortaya çıkan ve OpenAI ajanlarının sözde kontrollü ortamlardan sızarak, geliştiricilerin yapay zekâ yazılımlarını paylaştığı yaygın platform Hugging Face’e ait sunuculara eriştiğini ortaya koyan bilgilerle kısmen bağlantılıydı.Daha sonra OpenAI, söz konusu ajanların onlarca Hugging Face sunucusunda kod çalıştırdığını ve bunlardan birine tam erişim sağladığını açıkladı.Olay, gelişmiş yapay zekâ sistemlerinin daha sıkı denetlenmesi çağrılarını yeniden gündeme getirdi.Anthropic, Meta ve diğer teknoloji şirketleri de testler sırasında ajanların karıştığı benzer olaylar bildirdi.Türk, “Gelişmiş yapay zekânın insanlık için varoluşsal bir risk oluşturabileceğine dair sektör içinden gelen kaygıları paylaşıyorum” dedi.“Çok geç olmadan yapay zekânın güvenliği ve emniyeti etrafında sarsılmaz güvenceler oluşturmak için topyekûn bir çaba çağrısında bulunuyorum” diye ekledi.Uluslararası güvence çağrılarıBM İnsan Hakları Yüksek Komiseri, önümüzdeki günlerde yapay zekâ şirketlerine mektup yazarak, kontrol edebilecekleri riskleri azaltmak için derhal adım atmalarını isteyeceğini söyledi.En azından, “Yapay zekâya ev sahipliği yapan ülkelerin ve tedarik zincirlerinde yer alanların, üzerinde uzlaşılmış kırmızı çizgiler etrafında bir araya gelmesine ihtiyacımız var” dedi.Türk, “Bağımsız doğrulamaya ve sektör içinde güvenlik konusunda çok daha güçlü bir işbirliğine ihtiyacımız var” diye ekledi.“Yapay zekânın istihdam uygulamaları, demokrasinin temel ilkeleri ve çevremiz üzerindeki insan hakları etkilerini de göz önünde bulundurmamız gerekiyor” dedi.Avrupa Birliği’nde Yapay Zekâ Yasası, bu teknoloji için bir hukuki çerçeve sağlıyor.Yasa uyarınca, yüksek riskli sistemlerin AB pazarına girmeden önce sıkı şartları karşılaması gerekiyor; insanların güvenliğine veya haklarına kabul edilemez bir tehdit oluşturduğu değerlendirilen kullanım alanları ise yasaklanıyor.Yasa, insanları manipüle etmek ya da sömürmek, onları davranışlarına göre puanlamak, bir bireyin suç işleyip işlemeyeceğini öngörmek veya yüz tanıma veritabanları oluşturmak için ayrım gözetmeksizin görüntü toplamak üzere tasarlanmış yapay zekâyı yasaklıyor.Yasa ayrıca işyerlerinde ve okullarda duygu tanıma teknolojilerini, bazı biyometrik profilleme biçimlerini ve kamusal alanlarda polis tarafından kullanılan gerçek zamanlı yüz tanımanın büyük kısmını yasaklıyor; rızasız üretilen yapay zekâ kaynaklı cinsel içerikli görüntüler ile çocuklara yönelik cinsel istismar materyaline ilişkin yasak ise Aralık 2026’da yürürlüğe giriyor.