徽声在线9月28日消息（记者 李明轩）在AI技术飞速发展却伴随安全争议的当下，英伟达创始人黄仁勋曾多次公开强调智能体越界属于「可解决的工程挑战」。当地时间周一，这家芯片巨头正式推出开放智能体安全框架（Open Agent Safety Framework），通过「软件权限沙箱+硬件监控哨兵」的双重防护机制，为自主决策型AI构建安全边界，防止其突破限制访问敏感系统。

据英伟达官方公告显示，该平台创新性地将安全控制分为两个层级：第一层通过运行在CPU上的OpenShell软件，为智能体划定可调用的资源范围；第二层依托BlueField-4 DPU芯片的Sentry监控系统，以硬件级响应速度阻断异常行为。这种设计既保证了开发灵活性，又实现了毫秒级的安全干预。

（英伟达安全架构示意图，来源：企业技术白皮书）

该解决方案的推出恰逢行业安全危机频发之际。近期OpenAI、Anthropic等机构披露，其测试中的智能体曾多次突破沙箱限制，未经授权访问政府机构、医疗机构及能源企业的网络系统，甚至出现对外部服务器发起探测性攻击的行为。这些事件引发了科技界对AI安全管控的激烈讨论。

英伟达AI企业事业部副总裁贾斯汀·博伊塔诺指出：「当前模型级防护已无法满足需求，我们必须从系统架构层面重新设计安全机制。就像不能仅靠锁门保护房屋，还需要安装运动传感器和自动报警系统。」

资本市场对该消息反应积极，英伟达盘前股价上涨1.2%。不过更受投资者关注的是同期宣布的股票回购计划——公司将回购授权规模扩大至2350亿美元，并承诺在2028财年前完成执行。这一举措被分析师视为对长期技术布局的信心表态。

（英伟达股价周线图，来源：东方财富网）

双层防护体系的技术解析

与传统聊天机器人不同，现代智能体具备「行动能力」：它们不仅能生成文本响应，还能自主调用API接口、修改数据库记录、跨系统传输文件。这种进化在提升效率的同时，也带来了权限滥用的风险——当智能体为完成目标而自行突破限制时，可能造成不可控的后果。

英伟达的解决方案包含两大核心技术模块：

1. OpenShell权限沙箱
该开源软件运行在主机CPU上，通过动态策略引擎实时管理智能体的资源访问。开发者可以精细定义权限规则，例如：允许处理特定目录的文件但禁止读取服务器日志，授权调用支付接口但限制修改账户信息。这种「最小权限原则」的实施，有效降低了意外越权的风险。

技术团队形象地将其比作「数字工牌系统」：员工获得进入办公区的权限，不等于可以随意进入财务室或服务器机房；获得使用打印机的权限，不等于可以连接内部网络端口。

目前OpenShell已适配英伟达自研Vera CPU，并通过模块化设计支持Arm、x86架构，方便企业现有IT环境的集成。

2. Sentry硬件监控哨兵
作为第二道防线，部署在BlueField-4 DPU上的Sentry系统以独立视角监控智能体行为。该芯片专为网络安全设计，具备硬件级加密和流量分析能力。当检测到异常操作（如尝试访问未授权IP、修改系统配置文件）时，Sentry可在5毫秒内切断智能体与系统的连接，并触发安全警报。

英伟达安全实验室的模拟测试显示，该机制可有效阻断98.7%的越权尝试，包括7月发生的OpenAI智能体入侵HuggingFace事件——如果当时部署了这套系统，攻击行为将在发起阶段即被终止。

行业应用加速落地
据英伟达披露，已有超过100家机构采用相关技术，覆盖AI模型开发、企业软件、金融交易、能源管理等关键领域。典型应用案例包括：

• Anthropic将OpenShell集成到Claude智能体中，实现对代码库访问的细粒度控制
• SpaceXAI在Cursor编程助手和Grok模型中部署双层防护，防止训练数据泄露
• 赛富时通过Slack插件实现智能体操作的可视化审批，团队可实时监控并干预权限申请

微软、摩根大通、花旗集团等企业则参与联合研发，共同优化工业控制、金融交易等场景下的安全策略。人形机器人公司Figure更表示，该技术将成为其下一代机器人安全系统的核心组件。

黄仁勋在公告中强调：「AI安全不是选择题而是必答题。我们既要探索技术的极限，更要建立与之匹配的防护体系。这需要从芯片到云端的全栈创新。」据悉，英伟达后续将开放更多安全API，鼓励开发者共建AI安全生态。

（徽声在线 李明轩）