IT之家 9 月 28 日报道,英伟达于今日推出开放式 AI 智能体安全平台(NVIDIA Open Agent Safety Platform),该平台能够对 AI 智能体、智能体硬件及机器人系统实施全面的管理与控制。
该平台集成了英伟达的 OpenShell 安全软件,可针对运行于 CPU 上的 AI 智能体设置行为边界,并支持开源及闭源模型。
此外,该工具在 Vera 平台上的性能消耗极低。OpenShell 与 Vera 结合后,能在保障 AI 智能体高效完成任务的同时,确保其安全性。OpenShell 作为开源软件,可兼容包括 Arm 与英特尔产品在内的第三方平台。
英伟达此次还推出了名为 NVIDIA Sentry 的看门狗系统,用于持续监测 AI 智能体的行为。一旦 AI 智能体试图突破软件限制,Sentry 能够在毫秒级时间内将其隔离并终止运行。
Sentry 运行于 BlueField-4 DPU 上,可持续追踪 AI 智能体的活动,并在芯片层级独立执行安全策略。它融合了威胁检测、基于硬件的智能体管控与执行,以及数据访问保护功能,通过独立于智能体和攻击者、能实时响应的带外信任域实现上述能力。
另外,Anthropic、SpaceX 及 Scale AI 等企业已与英伟达合作,将 OpenShell 应用于其 AI 模型与智能体。