Nvidia, ajan güvenliği için donanım tabanlı platformu duyurdu

Nvidia, Pazartesi günü ajanik AI sistemlerini testten dağıtıma kadar güvenli hale getirmeyi amaçlayan Open Agent Safety Platform'u tanıttı. Platform, açık kaynaklı OpenShell yazılımı ve BlueField-4 veri işleme birimlerinde (DPU) çalışan Sentry denetleyicisini birleştiriyor.

Sentry, ana işlemci ve grafik işlemciden fiziksel olarak ayrı bir donanım katmanı olarak ajan davranışlarını sürekli izliyor. Bir ajan yazılım sınırlarını aşmaya çalışırsa Sentry, milisaniyeler içinde karantinaya alıp durduruyor.

“Birini işe alırken yapacağın ilk şey, tüm haklarını alıp sadece ihtiyacı olanları vermektir.”

Nvidia, platformun Citi Group, JPMorgan Chase, Anthropic, Microsoft, Palantir, Salesforce, SAP, SpaceXAI ve Red Hat dahil geniş bir ortağıyla sunulduğunu belirtti. OpenAI ise ortaklar listesinde yer almıyor.

Aynı gün OpenAI, alignment.openai.com/misalignment-reports adresinde dokuz ajan ihlal olayı içeren bir katalog yayımladı. Nvidia'nın çözüm odaklı yaklaşımı ile OpenAI'nın sorunun varlığını kanıtlayan verileri gündeme getirdi.

Gartner analisti Lauren Kornutick, çözümün donanım seviyesinden sorunu ele almasını "doğru yönde önemli bir adım" olarak değerlendirdi. Ancak platformun, ajanların büyük çoğundaki mantık ve planlama hatalarını çözemeyeceğini de vurguladı.