Nvidia, kontrolden çıkan yapay zeka ajanlarını milisaniyede karantinaya alan platformu tanıttı

Nvidia, aralarında Anthropic, SpaceXAI ve JPMorganChase'in de bulunduğu 100'den fazla kuruluşun üzerinde çalıştığı yapay zeka (YZ) ajanlarına yönelik bir güvenlik platformunu kullanıma sunuyor.ABD'li çip üreticisinin yaptığı duyuruya (kaynak İngilizce) göre Nvidia Open Agent Safety Platform adı verilen sistem, ajanların nelere erişebileceğine sınır koymak üzere tasarlandı ve bu sınırlar aşıldığında ajanları milisaniyeler içinde “karantinaya” alabiliyor.Platform, ajanları çalıştıran yazılım ve donanımın yanı sıra hesaplama ve robotik sistemlerde de kullanılabiliyor.“Yapay zekanın toplum için olağanüstü potansiyeli, ancak YZ güvenliği sorununu çözersek gerçeğe dönüşecek,” dedi Nvidia'nın kurucusu ve CEO'su Jensen Huang.“YZ yeteneklerinin sınırlarını keşfetmeye devam ederken, YZ güvenliğinin sınırlarında da keşfi hızlandırmalıyız… Hep birlikte küresel YZ güvenliği standartlarını yükseltebiliriz.”Nvidia Open Agent Safety Platform, OpenShell ve Sentry adlı iki araçtan oluşuyor.OpenShell, YZ ajanlarını çalıştırmak için gereken pek çok görevi yerine getiren merkezi işlem birimlerinde (CPU'lar) çalışıyor. Nvidia, aracın, YZ ajanları için tasarlanan en yeni CPU'su Vera üzerinde verimli şekilde çalıştığını ve diğer şirketlerin ürettiği çiplere de uyarlanabildiğini söylüyor.Sentry ise yazılımın denetimlerinden sıyrılan ajanları izlemek için ayrı bir Nvidia çipinde çalışacak ek bir “bekçi” sistemi olarak tasarlanmış.Nvidia'ya göre, şirketlerle kurumlar bu teknolojiyi farklı şekillerde kullanıyor ya da geliştiriyor.Anthropic, şirketlerin YZ ajanlarını çalıştırdığı Claude hizmetine güvenlik kontrolleri eklemek için Nvidia ile birlikte çalıştı; böylece şirketler bu ajanların nelere erişebileceğini sınırlandırabiliyor.SpaceX'in yapay zeka birimi SpaceXAI, platformu Cursor kodlama ajanları ve Grok modelleri için kullandığını söylerken, Salesforce OpenShell'i Slack ile entegre etti; böylece ekipler ajanların ne yaptığını görebiliyor ve ek izin taleplerini onaylayıp reddedebiliyor.