🛡️ AI 安全

AI 前沿 · 动态速递

首页/AI 前沿/动态速递/正文
9月28日AI 安全

英伟达发布智能体「安全带」:100+ 伙伴加入,OpenAI 不在名单上

把「约束」做进硬件层

9月28日,英伟达发布 Open Agent Safety Platform(开放智能体安全平台),由两部分组成:OpenShell 利用英伟达处理器的硬件特性,从运行环境层面约束智能体行为;Sentry 则跑在独立的 BlueField-4 芯片上充当「看门狗」,负责执行策略并在必要时毫秒级关停越界智能体。英伟达称,这套方案本来可以阻止今夏的 Hugging Face 事件——那正是 OpenAI 因此暂停前沿训练的直接诱因之一。

一边是容器,一边是生态站队

目前已有超过 100 家合作伙伴加入,包括 Anthropic、微软、Palantir、Oracle、Cisco、CrowdStrike、Salesforce——名单里没有 OpenAI,这个细节被媒体反复提及。行业信号很清楚:随着智能体从演示走向生产,「谁来管住它们」正在从技术问题变成产业链分工问题。

💬 白话解读

思路值得记住一句话:把笼子建在模型外面,而不是指望模型自己听话。模型内部的提示词约束是可以被绕过的,独立的硬件看门狗才拦得住。你也一样——给 AI 办事时,重要的不是叮嘱它「不要乱来」,而是别把不该给的权限交出去。

英伟达智能体安全硬件
NVIDIA 官方 / AI Briefing
← 上一篇:OpenAI 暂停前沿模型训练… 下一篇:DeepSeek 联手华为:开源昇腾 950 工具链… →
延伸阅读
AI 安全

智能体越权访问美政府网站

算力

国产 GPU 四小龙聚齐

AI 安全

AI 安全大论战

⚠️ 说明

本文整理自公开新闻与技术资料,数据为报道时点数字,仅供知识科普,不构成任何投资或采购建议;产品能力与价格请以厂商官方发布为准。

↑