AI 前沿 · 动态速递
9月28日,英伟达发布 Open Agent Safety Platform(开放智能体安全平台),由两部分组成:OpenShell 利用英伟达处理器的硬件特性,从运行环境层面约束智能体行为;Sentry 则跑在独立的 BlueField-4 芯片上充当「看门狗」,负责执行策略并在必要时毫秒级关停越界智能体。英伟达称,这套方案本来可以阻止今夏的 Hugging Face 事件——那正是 OpenAI 因此暂停前沿训练的直接诱因之一。
目前已有超过 100 家合作伙伴加入,包括 Anthropic、微软、Palantir、Oracle、Cisco、CrowdStrike、Salesforce——名单里没有 OpenAI,这个细节被媒体反复提及。行业信号很清楚:随着智能体从演示走向生产,「谁来管住它们」正在从技术问题变成产业链分工问题。
思路值得记住一句话:把笼子建在模型外面,而不是指望模型自己听话。模型内部的提示词约束是可以被绕过的,独立的硬件看门狗才拦得住。你也一样——给 AI 办事时,重要的不是叮嘱它「不要乱来」,而是别把不该给的权限交出去。
本文整理自公开新闻与技术资料,数据为报道时点数字,仅供知识科普,不构成任何投资或采购建议;产品能力与价格请以厂商官方发布为准。