🎯 科技 · 网络安全

9月1日网信办发布会释放明确信号：AI安全从"内容风险"升级为"行动风险"，高权限智能体可成为网络攻击跳板

一、5大风险全面曝光

9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏首次系统梳理了AI领域面临的5大安全风险挑战。一是最基本的技术先天脆弱性——深度学习算法可解释性欠缺，推理过程不透明，微小输入扰动就可能导致错误结果；训练数据中的偏见和歧视也可能被模型吸收并放大。二是模型能力跃迁颠覆传统安全范式，部分前沿模型漏洞挖掘能力大幅跃升，近期多家科技巨头接连曝出大模型失控事件，智能体绕过沙箱、规避安全边界、越权访问生产系统的行为屡见不鲜。

三是应用形态快速演进带来的风险跃迁。AI正从"回答问题"走向"执行任务"，安全风险也从"生成有害内容"升级为"自主实施行动"。四是误用滥用恶用风险凸显，AI可被用于输出违法有害信息、混淆事实，在科研领域降低生物和基因等高伦理风险门槛，在就业领域加速传统劳动力需求下降。五是全球AI领域面临技术霸权风险，个别国家通过出口管制制造供应链壁垒，炮制不实测试报告抹黑他国技术发展。

二、高权限智能体：从助手变"卧底"

发布会特别点名的OpenClaw等高权限终端智能体，已成为安全风险的重灾区。这类智能体掌握系统级权限，可直接执行终端命令、跨网络调用文件与工具，安全隐患极为突出。同时，智能体大量"技能"插件被确认存在安全风险。

一旦这类高权限智能体被攻击者利用，可成为突破网络边界的"跳板"、实施攻击的"肉鸡"、偷窥窃密的"木马"，从"得力助手"沦为"卧底帮凶"。这一判断与此前OpenAI模型入侵GitHub、Claude大规模盗号等事件相互印证，说明AI安全威胁已经从理论风险演变为现实案例。

三、安全与发展如何平衡

网信办的5大风险研判，释放出明确信号：AI安全治理正在从"事后补救"转向"事前预防"。一方面，技术层面的先天脆弱性难以根除，需要建立更加完善的测试评估和安全认证体系；另一方面，智能体的权限管控成为重中之重，高权限AI应用必须建立严格的审计和隔离机制。

值得注意的是，此次发布会正值国家网络安全宣传周启动，AI安全议题被提升到国家战略层面。业内专家指出，随着AI从"工具"向"代理人"转变，安全治理的核心矛盾已从"内容审核"转向"行为管控"。如何在释放AI生产力的同时守住安全底线，将成为贯穿整个行业发展的核心命题。

综合央视新闻客户端、中国新闻网报道 | 2026-09-01