Nvidia, donanımsal izolasyonla AI ajanlarını denetleyen Open Agent Safety Platform'u duyurdu

Nvidia, 28 Eylül 2026'da Open Agent Safety Platform referans sistem tasarımını duyurdu. Platform, ajanların yazılım sınırlarını aşmasını engellemek için işlemci ve grafik işlemci'den fiziksel olarak ayrı BlueField-4 veri işleme birimlerinde (DPU) çalışan Sentry izleme sistemini kullanıyor.

OpenShell adlı açık kaynaklı yazılım bileşeni, ajanların hangi dosyalara, ağlara ve servislere erişebileceğini tanımlayan bir çalışma zamanı sınırı sağlıyor. Nvidia, bu mimarinin bir ajanın sınırlarını aşması durumunda milisaniyeler içinde karantinaya alıp durdurabildiğini belirtiyor.

“Bir ajanı işe alırken yapılan ilk şey, tüm haklarını alıp sadece ihtiyacı olanları vermektir.”

Platforma Citi Group, JPMorgan Chase, Anthropic, Microsoft, Cisco, Palantir, Red Hat, Salesforce, SAP, ServiceNow, SpaceXAI, Dell Technologies, HPE, Hugging Face, Perplexity, Scale AI, Arm, Intel, Oracle ve Figure gibi şirketler ortak olarak katıldı. OpenAI ise ortaklar listesinde yer almıyor.

Aynı gün OpenAI, alignment.openai.com/misalignment-reports adresinde dokuz ajan kontrol kaybı olayını belgeleyen bir katalog yayınladı. Nvidia'nın çözüm odaklı mühendislik yaklaşımı ile OpenAI'nın sorunun varlığını kanıtlayan raporu gündeme paralel geldi.

Gartner'ın üst düzey analisti Lauren Kornutick, Nvidia'nın donanım seviyesindeki yaklaşımını "doğru yönde önemli bir adım" olarak değerlendirdi. Ancak analistler, silikon tabanlı bu yöntemin ajanların büyük çoğundaki mantık, planlama ve hedef yanlılığı sorunlarını çözemeyeceğini öne sürüyor.

Nvidia CEO'su Jensen Huang, AI güvenliğini "korku teorisi" olarak nitelendiren rakip şirketlerin uyarılarını eleştirirken, sorunun somut fiziksel parametreleri olan bir altyapı problemi olduğunu ve çözümün daha iyi mühendislikten geçtiğini savundu. Huang, CNBC röportajında Sentry'yi işe alımda yetkileri kısıtlayıp gerektiği kadar veren insan kaynakları süreçlerine benzettirdi.

Sektördeki tartışmalar, özerk "kara kutu" ajanları kısıtlamaya odaklanırken, AI'nın tehdit aktörleri elindeki güçlü bir araç olarak kullanılmasından kaynaklanan güvenlik riskleri henüz yeterince ele alınmamış durumda.