徽声在线10月13日消息（记者郭松峤）近日，中共中央与国务院联合发布了《关于发展新质生产力的指导意见》（以下简称《意见》）。在提及“全面推进‘人工智能+’行动”的部分，《意见》着重指出，需“构建一套完善的技术监测、风险预警及应急响应机制，以保障人工智能技术的安全、可靠与可控性”。

人工智能领域的资深分析师李云向徽声在线记者透露，此次《意见》中提出的构建技术监测、风险预警及应急响应体系，可视为对过往分散政策的系统性整合——将安全能力从单一产品层面提升至系统性基础设施的高度。

在产业界，网络安全领域的上市公司正积极响应，通过发布最新技术及调整战略布局，将文件中的“技术监测、风险预警、应急响应”要求转化为具体的产品线与解决方案。

政策演进：从框架搭建到体系完善的加速进程

徽声在线记者梳理发现，今年以来，政策层面已形成一套较为完备的制度体系，涵盖了从《生成式人工智能服务管理暂行办法》到《人工智能生成合成内容标识办法》，再到《人工智能拟人化互动服务管理暂行办法》以及《智能体规范应用与创新发展实施意见》等关键环节，为人工智能的健康发展提供了坚实的制度保障。

李云进一步分析指出，随着一系列政策的相继出台，特别是此次《意见》中提出的“技术监测、风险预警、应急响应体系”，政策重心正逐步从“内容合规”转向“行为可控”。他强调，当智能体具备调用工具、访问系统、执行任务的能力时，安全治理就不能仅局限于模型输出层面，而必须延伸至资产识别、权限管控、运行审计及应急处置等全链条环节。

然而，产业节奏与安全设计之间的落差仍不容忽视。业内专家指出，当前AI领域的安全投入远远滞后于研发与应用的规模，安全评测、风险预警及应急处置机制等环节仍在努力追赶技术迭代的步伐。同时，使用层面的风险也日益凸显，政务、金融、工业等领域人工智能应用的加速落地，部分使用者对AI能力边界认知不足，滥用、误用现象频发，给安全治理带来了新的挑战。

据统计，截至今年8月底，全国已有1112款生成式人工智能服务完成备案，731款应用或功能完成登记；中央网信办部署的“清朗·整治AI应用乱象”专项行动，第一阶段已累计处置违规AI产品1.4万余款。此外，人工智能健康发展的综合性立法也已被提上日程。

“当前类Claw智能体面临三大风险挑战”

徽声在线记者在绿盟科技2026年秋季大模型安全创新成果发布会上了解到，企业的AI治理重心正发生转变，从以往的“管住模型说什么”转向“约束智能体做什么”。

近日，全国网络安全标准化技术委员会秘书处发布了《网络安全标准实践指南——智能体部署使用安全指引》，首次为智能体从评估、部署到停用的全流程划定了安全红线。

作为该指南的起草单位之一，绿盟科技相关负责人向记者表示，这份文件将成为企业采购、安全检查与责任认定的重要依据，智能体资产清点、权限最小化、高风险操作阻断、行为审计与长期记忆治理等措施，正从可选方案变为必选项。

绿盟科技能力中心产品经理郭光正进一步分析指出，结合真实环境的实测结果，当前类Claw智能体主要面临三大风险：跨形态共有安全风险、Skills安全风险及沙箱逃逸风险。

“此外，指令与数据不可区分、优化目标错位、概率性幻觉、上下文遗忘等大模型架构内生的缺陷，在智能体环境下还会被进一步放大，难以单纯依靠算法升级来彻底消除。”郭光正强调。他同时提醒，当AI从“只会聊天”的工具转变为能替员工干活的“数字员工”时，企业可能面临数据泄露、数字员工行为越界等新问题。当数字员工自主拆任务、发邮件、查资料时，虽然效率提升了，但新的安全隐患也随之而来。

以近期公开报道的事件为例，2026年4月，美国汽车租赁软件公司PocketOS的AI编程智能体在测试环境中遇到报错后，竟自作主张地在9秒内删除了公司的生产数据库，连同一块存储上的备份也一并清除，造成了严重后果。

从产业实践来看，安全评估正从“可选项”转变为大模型与智能体上线的“前置门槛”。绿盟科技AI安全产品总监李斌在接受徽声在线记者采访时表示，要想让AI更安全地赋能业务，必须对智能体行为进行全链路审计，即记录智能体从接到任务到每一步操作的全程，实现实时审计，以便在出现问题时能迅速查清是哪个智能体、谁的授权、干了什么。

李斌进一步强调，针对办公助理类智能体的数据安全，需让智能体在读取和外发文件前先过“安检”，对敏感数据进行自动拦截或脱敏处理，同时，员工下载的AI插件在安装前也需进行安全检查，以确保员工能放心使用AI，避免敏感数据泄露。

“最后，要统一管控企业调用大模型的入口和智能体访问内部系统的权限，确保每个部门、每个智能体的用量和花费一目了然，超额时自动‘踩刹车’。通过这三项能力的组合，让每一位AI数字员工都有明确的身份、边界和记录，确保AI赋能业务能够‘安全’落地。”李斌总结道。

（徽声在线记者 郭松峤）