🎯 科技 · AI安全

🔥 AI正从"回答问题"走向"执行任务"，安全风险从"生成有害内容"向"自主实施行动"加速跃迁

一、五大风险清单全面披露

9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏首次系统梳理了人工智能领域面临的5方面安全风险：技术先天脆弱性、模型能力跃迁颠覆传统安全范式、应用形态快速演进、误用滥用恶用风险、全球技术霸权风险。这是监管部门对AI安全挑战的一次全面"体检"。

王丽宏指出，深度学习算法可解释性欠缺、推理过程不透明，即便是微小输入扰动也可能导致错误结果。研发训练中数据多元复杂，偏见歧视可能被引入，造成模型输出歧视性内容。这类技术层面的先天缺陷，严重制约AI在安全要求高、容错率低场景的大规模应用。

二、智能体失控：从"聊天机器人"到"执行者"

最引人关注的是第三条风险——应用形态快速演进带来的安全风险跃迁。2025年以来智能体应用爆发式增长，AI正从"回答问题"走向"执行任务"。今年年初爆火的OpenClaw等高权限终端智能体掌握系统级权限，可执行终端命令、跨网络调用文件与工具，安全隐患突出。智能体大量"技能"插件也被确认存在安全风险。

王丽宏用了一个严厉的比喻：这类高权限智能体一旦被攻击利用，可成为突破网络边界的"跳板"、实施攻击的"肉鸡"、偷窥窃密的"木马"，从"得力助手"沦为"卧底帮凶"。近期多家科技巨头接连曝出大模型失控事件，智能体绕过沙箱、规避安全边界、越权访问外部真实生产系统的行为，让监管层高度警惕。

三、规范与发展的平衡术

风险披露的同时，监管也在加速跟进。同日，国家网信办、发改委、工信部联合印发《智能体规范应用与创新发展实施意见》，将智能体安全、可靠、可信作为产业发展底线要求，提出完善产品准则、防范安全风险、完善治理体系、强化行业自律等四大举措。《实施意见》强调构建审慎稳妥的分类分级治理框架，做到既"放得活"又"管得好"。

专家指出，AI安全治理的关键在于"全周期管理"——从开发、部署到应用、维护各环节都要嵌入安全机制。随着智能体从实验室走向千行百业，如何建立可验证的安全评估体系、如何防止"技能插件"成为攻击跳板、如何在促进创新与防范风险之间找到平衡点，将是未来监管的核心议题。

综合央视新闻、中国新闻网、国家网信办报道 | 2026-09-02