OpenAI, henüz yayımlanmayan yeni yapay zeka modeli Astra’nın insan yönlendirmesi olmadan güvenlik açıklarını bulup bunları istismar edebilecek seviyeye ulaştığını açıkladı. Şirket, modelin piyasaya sürülmeden önce daha sıkı güvenlik önlemlerinden geçirilmesi gerektiğini belirtiyor. Astra siber güvenlikte yeni bir seviyede OpenAI yetkililerine göre Astra, şirketin şu anda kamuya açık en gelişmiş modelinden daha fazla güvenlik açığı tespit edebiliyor.
Üstelik bunu daha az hesaplama gücü kullanarak gerçekleştirebiliyor. OpenAI’ın güvenlik çalışmalarından sorumlu başkan yardımcısı Amelia Glaese, Astra’nın gerekli araçlara ve erişime sahip olması halinde daha önce bilinmeyen güvenlik açıklarını bulabileceğini ve bunları kullanarak iyi korunan sistemlere yönelik saldırılar geliştirebileceğini söyledi. Modelin bu süreçte her adım için bir insan tarafından yönlendirilmeye ihtiyaç duymadığı belirtildi.
Bu yetenekler, Astra’nın OpenAI’ın güvenlik protokolünde belirlenen kritik siber güvenlik yeteneği eşiğini aşan ilk model olmasına neden oldu. Söz konusu eşik daha önce teorik bir güvenlik kriteri olarak bulunuyordu. OpenAI, Astra’yı yakında sınırlı bir kullanıcı grubuna sunmayı planlıyor ancak henüz kesin bir tarih veya kapsam açıklanmadı.
Daha sıkı güvenlik önlemleri uygulanacak OpenAI’ın güvenlik protokolüne göre bir modelin yeni siber güvenlik açıklarını tespit edip bunlardan yararlanabilmesi ve insan müdahalesi olmadan ayrıntılı, yeni saldırı stratejileri planlayıp uygulayabilmesi durumunda ek güvenlik önlemleri devreye giriyor. Şirket, Astra’nın zararlı siber güvenlik taleplerine daha güvenilir şekilde karşı koyması için model üzerinde ek eğitimler gerçekleştirdi. Bunun yanında modelin faaliyetlerinde güvenlik önlemlerini aşmaya yönelik davranışların tespit edilmesi için yeni izleme sistemleri de geliştirildi.
Şirket ayrıca yeni önlemlerin bazı meşru çalışmaların yavaşlamasına, duraklatılmasına veya tamamen engellenmesine yol açabileceğini kabul ediyor. Astra, GPT-5.6 Sol’dan daha riskli görülüyor OpenAI, Astra’nın siber güvenlik yetenekleri açısından mevcut lider modeli GPT-5.6 Sol’dan önemli ölçüde daha ileri olduğunu belirtiyor. Astra, daha az token kullanarak daha fazla iş yapabiliyor ve güvenlik açıklarını tespit etmenin yanı sıra bu açıkları kullanmaya yönelik yöntemler geliştirmede daha başarılı.
Bu nedenle şirket, Astra’yı mevcut modele kıyasla daha yüksek risk taşıyan bir sistem olarak değerlendiriyor. Bununla birlikte OpenAI’ın dahili testleri, Astra’nın şimdiye kadar geliştirdiği en uyumlu model olduğunu gösteriyor. Şirket ayrıca Hugging Face saldırısından esinlenen yeni bir güvenlik testi geliştirdi.
Bu testte yapay zeka ajanlarından normal bir görevi tamamlamak yerine güvenlik altyapısını ele geçirmeye çalışmaları istendi. OpenAI’ın açıklamasına göre GPT-5.6 Sol, testlerin yarısından fazlasında bu saldırı girişimine yöneldi. Astra ise aynı testlerde güvenlik altyapısını ele geçirmeye yönelik herhangi bir girişimde bulunmadı.
OpenAI, güvenlik çalışmalarının ardından en büyük modelinin eğitim sürecini 28 Ağustos’ta yeniden başlattığını da açıkladı. Ancak şirket, bazı daha küçük deneyleri şimdilik gerçekleştirmemeyi tercih ediyor. Astra’nın piyasaya çıkış tarihi ise henüz kesinleşmiş değil.
