Nvidia, yapay zeka ajanlarının test ortamlarından çıkarak gerçek dünya sistemlerine erişmesini engellemek amacıyla yeni bir güvenlik platformu geliştirdi. Nvidia CEO'su Jensen Huang tarafından tanıtılan Open Agent Safety Platform, yapay zeka modellerinin sınırlarını korumak için yazılım ve donanımı birleştiren bağımsız bir güvenlik katmanı sunuyor.
Yeni platform, ajanların erişim yetkilerini kontrol eden OpenShell yazılımı ile Nvidia'nın BlueField-4 veri işleme birimleri üzerinde çalışan Sentry adlı izleme sistemini bir araya getiriyor. Sentry'nin yapay zekanın çalıştığı işlemciden bağımsız bir donanımda yer alması, ajanların faaliyetlerinin izole bir şekilde gözlemlenmesine olanak tanıyor. Bu yapı, ajanların belirlenen sınırların dışına çıkma girişimlerini milisaniyeler içinde tespit edip müdahale edebiliyor.
Söz konusu teknoloji, Anthropic, Arm, Microsoft, Oracle ve SpaceX gibi birçok şirket tarafından destekleniyor. OpenAI ise destek veren şirketler listesinde yer almadı. Nvidia, yapay zeka geliştirme süreçlerini yavaşlatmak veya yeni endüstriyel düzenlemeler getirmek yerine, güvenlik sorunlarının mühendislik çözümleriyle aşılması gerektiğini vurguluyor.
