OpenAI, ABD’deki en güçlü yapay zekâ sistemleri için bağlayıcı güvenlik yükümlülükleri talep ediyor; bu da bugüne kadar daha sıkı düzenlemelere direnen şirket için bir yön değişikliğine işaret ediyor.OpenAI’nin küresel ilişkilerden sorumlu başkanı Chris Lehane, Çarşamba günü yaptığı açıklamada, zorunlu ulusal kuralların, ileri düzey yapay zekâ modellerinin neler yapabildiğine göre belirlenmesi gerektiğini yazdı.“Yapay zekâ yeteneklerinde yeni bir döneme girmiş durumdayız; bu da yapay zekâ politikalarında da yeni bir dönemi zorunlu kılıyor. Hiçbir şirket, sektör ya da hükümet bu meydan okumayla tek başına baş edemez. Bu anı, mükemmel politikalar peşinde koşmaktan ziyade somut adımlara öncelik vererek karşılamamız gerekiyor,” diye konuştu Lehane, OpenAI’nin internet sitesinde yayımlanan açıklamasında.Şirket, ortak test standartlarına, en gelişmiş yapay zekâ modellerinin bağımsız değerlendirmelerine, daha sıkı siber güvenlik şartlarına ve ciddi güvenlik olaylarının zorunlu olarak bildirilmesine dayanan federal bir çerçeve istediğini açıkladı.Bu çıkış, OpenAI’nin bugüne kadarki en yetenekli modeli olarak tanımladığı GPT-6 Astra’yı piyasaya sürmesinden bir hafta sonra geldi.OpenAI Başkanı Greg Brockman, bu lansmanın, yapay genel zekâ (AGI) çağının başlangıcını temsil ettiğini söyledi; bu terimle, geniş bir görev yelpazesinde insan yeteneklerine denk olabilen yapay zekâ geliştirme hedefine atıf yaptı.Güçlü yapay zekâya dair artan endişelerOpenAI ve Anthropic’in de aralarında bulunduğu büyük yapay zekâ şirketleri, giderek yetenek kazanan modellerde şimdiden güvenlik sorunlarıyla karşılaştı.OpenAI, testlerde gelişmiş siber güvenlik yetenekleri tespit edilmesinin ardından ek koruma önlemleri getirirken Astra’nın yaygınlaştırılmasının bazı bölümlerini erteledi; bu adım, şirketin kendi modelleriyle oluşturduğu bir sistemin, iç güvenlik testi sırasında kontrolden çıkarak yapay zekâ platformu Hugging Face’e sızmasından sadece birkaç hafta sonra geldi.Anthropic, güvenlik testleri sırasında Claude modellerini içeren benzer vakalar bildirmişti.Endişeler, Anthropic araştırmacısı Jacob Coxon’ın bu hafta sektörden ayrıldığını açıklamasının ardından daha da arttı; Coxon, giderek daha güçlü yapay zekâlar geliştirme yarışında OpenAI ve Anthropic’i “hayatlarımızı kumar masasına sürmekle” suçladı.“Yapay zekâ tarafından hızlandırılan yapay zekâ geliştirme ihtimali, gönüllü taahhütlerden fazlasını gerektiriyor,” diye yazdı Lehane.OpenAI’nin yaklaşımında yön değişikliğiChatGPT’nin geliştiricisi, ABD’li parlamenterlere Kongre’nin aralık ayında tatile girmesinden önce harekete geçme çağrısında bulundu.Bu baskı, milletvekillerinin yeni yapay zekâ kurallarını tartıştığı bir dönemde geliyor; ancak siyasi olarak bölünmüş bir Kongre’de ve yoğun sektör lobiciliği altında kapsamlı teknoloji düzenlemeleri çıkarmak hâlâ zor.OpenAI, bugün desteklediği bazı önlemlerin, geçmişte onaylamayı reddettiği adımlar olduğunu kabul etti.Şirket, daha önce tek tek ABD eyaletlerinin kendi yapay zekâ kurallarını koymasına karşı çıkmış ve bunun yerine federal yasaları savunmuştu.
OpenAI şimdi Kaliforniya’daki dört yapay zekâ tasarısına destek verirken, ulusal bir çerçeve çağrısını da sürdürüyor.OpenAI, olası federal güvenlik yükümlülüklerinin, “sınırdan çok uzakta faaliyet gösteren girişimler, küçük geliştiriciler ya da araştırmacılar” yerine, yalnızca en güçlü modelleri geliştiren az sayıdaki şirkete uygulanması gerektiğini söyledi.
