OpenAI geçen ay test edilen bir yapay zeka modelinin Hugging Facein sunucularına sızmasının ardından, araştırma ve eğitim sistemlerini elden geçirmeye başladı. Şirket model testlerine iki hafta ara verdi ve testlerdeki AI ajanlarını başka yapay zeka sistemleriyle izlemek için yatırımlarını artırdı. Planlanan eğitim çalışmalarının bir bölümü de yeni güvenlik şartları karşılanana kadar kızağa çekildi.İnsan Kontrolü Daha Fazla Önem KazandıGüvenlik ekibi lideri Mia Glaese sistemlerin normale dönmekten hâlen uzak olduğunu söyledi.
Sam Altman ise yeni yaklaşımda modellerin eğitim boyunca uyumlu davranışlar göstermesini beklediklerini açıkladı. Daha açıklayıcı olmak gerekirse; OpenAI denetimler dâhilinde yanıt veren ve amaçlandığı şekilde hareket eden modeller geliştirmeye çalışıyor.Astra Alarm Zillerini ÇaldırdıYapay zeka devi, Astranın önemli ilerleme gösterdiğini ve modelin kritik siber güvenlik eşiğine yaklaşabileceğini belirtti. Bu nedenle Astra ile ilgili çok sayıda çalışma yeni güvenlik şartları karşılanana kadar beklemeye alındı.
Bu dikkat çekici karar, OpenAI ile Anthropic arasındaki model geliştirme yarışının hızlandığı ve Bernie Sandersın büyük yapay zeka şirketlerine çalışmalarını durdurma çağrısı yaptığı bir döneme denk geldi.
