Nvidia, son dönemde artan ve şirketlerin sistemlerini hedef alan yapay zeka kaynaklı güvenlik olaylarına karşı Open Agent Safety Platform'u geliştirdi. Şirketin pazartesi günü duyurduğu platform, yapay zeka ajanlarının kendilerine tanımlanan sınırları aşmaya çalışması durumunda devreye girerek ilgili ajanı milisaniyeler içinde karantinaya alabiliyor. Ajanlar daha sıkı denetlenecek Sistem, Nvidia'nın açık kaynaklı OpenShell yazılımını ve ayrı bir donanım üzerinde çalışan Sentry güvenlik teknolojisini bir araya getiriyor.
Temel yaklaşım, güvenlik kontrollerini doğrudan yapay zeka ajanının çalıştığı yazılım ortamından ayırmak. OpenShell, yapay zeka ajanlarının hangi bilgilere erişebileceğini ve hangi işlemleri gerçekleştirebileceğini belirleyen politikalar üzerinden çalışıyor. Kullanıcılar, ajanın görevini yerine getirmesi için ihtiyaç duyduğu izinleri tanımlayabiliyor.
