Şirket son değerlendirmesinde Astranın kodlama ve siber güvenlik alanında belirgin şekilde ilerlediğini, bu nedenle kritik siber yetenekler taşıma ihtimalinin bulunduğunu belirtti. Model için güvenlik şartlarını karşılamayan çalışmalar durduruldu. Lakin Astra üzerindeki testler ve ölçümler ise devam edecek.Güvenlik Önlemleri ArtırılıyorOpenAI, Astra için daha sıkı test ortamları oluşturacağını ve tüm süreçlerde kapsamlı izleme uygulayacağını açıkladı.
Yapay zeka devine göre eğer bir model açıkları kendi başına bulup kullanabiliyor veya talimatlarla hedeflere siber saldırı düzenleyebiliyorsa kritik seviyeye ulaşıyor demek. Bu seviye firmanın tanımladığı en yüksek riskin üzerinde bulunuyor. Kritik eşik aşılırsa, güvenlik önlemleri gereken standarda ulaşana kadar model üzerindeki geliştirme çalışmalarının durdurulması gerekiyor.Test İhlalleri Yürekleri Ağza GetirdiSam Altman ve ekibinin, Astra hakkında böyle bir karar almasının en büyük nedenleri arasında AI modellerinin test ortamlarından kaçması yer alıyor.
Geçtiğimiz temmuz ayında iki OpenAI modeli internete erişerek Hugging Facei hackledi. Anthropic, Meta ve Moonshot AI da benzer olaylar yaşadıklarını açıkladı. Astra bu olaya karışmadı.
Yapay zeka devi model için çıkış tarihi vermedi, ancak geçen hafta Astranın yıllardır çözülemeyen 10 matematik problemini çözdüğünü duyurdu. Bu arada şirketin planlarına aşina bir kaynağa göre OpenAIın elinde Astra dışında daha ileri seviyede başka bir model var ve asıl bu modelin yeteneklerinden korkuluyormuş. Tabii ki bu dedikoduyu doğrulamanın herhangi bir yolu yok.
