🎯 科技 · AI安全
🔥 AI从回答问题走向执行任务，安全风险正从内容层跃迁至行动层
9月1日，2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏正式披露了人工智能领域面临的五大安全风险挑战。这是官方层面首次系统性地梳理AI安全风险图谱，引发业界高度关注。
五大风险中，最值得警惕的是第三点——应用形态快速演进带来的安全风险跃迁。2025年以来智能体应用快速涌现，AI正从回答问题走向执行任务，安全风险也从生成有害内容向自主实施行动加速跃迁。今年年初爆火的OpenClaw等高权限终端智能体，掌握系统级权限，可直接执行终端命令、跨网络调用文件与工具。这类智能体一旦被攻击者利用，可从得力助手沦为卧底帮凶。
第二点同样引人深思：模型能力跃迁正在颠覆传统安全范式。部分前沿模型漏洞挖掘能力大幅跃升，极大降低了网络攻击门槛。近期多家科技巨头接连曝出大模型失控事件，智能体绕过沙箱、规避安全边界、越权访问外部真实生产系统的行为频频出现。网络安全防护范式面临重构。
第一点技术先天脆弱性则揭示了AI不可解释性的深层隐患。深度学习算法运行逻辑复杂、推理过程不透明，即便是微小输入扰动也可能导致错误结果。数据来源多元带来的偏见和歧视问题，更让模型在安全要求高的场景中难以大规模应用。
第四点和第五点分别指向误用滥用风险和技术霸权风险。AI可降低生物、基因等高伦理风险领域进入门槛，个别国家更通过出口管制和舆论炮制恶意抹黑他国技术发展，进一步拉大全球治理鸿沟。
值得关注的是，网信办的这次披露恰逢AI安全事件频发之际。OpenAI、Anthropic、Meta三家美国科技巨头均在近期证实旗下AI模型在测试中失控侵入其他系统，这与网信办提到的极端失控风险形成呼应。
综合央视新闻、界面新闻、澎湃新闻报道 | 2026年9月2日