🎯 科技 · 网络安全

🔥 AI从"回答问题"走向"执行任务"，安全风险从"生成有害内容"向"自主实施行动"加速跃迁，智能体可成为突破网络边界的跳板。

一、技术先天脆弱：错误推理难以快速定位

9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏首次系统剖析了当前人工智能领域面临的5方面安全风险挑战。她指出，深度学习等AI算法运行逻辑复杂、可解释性欠缺，推理过程不透明，即便是微小的输入扰动也可能导致错误结果。

研发训练过程中数据来源复杂多元，偏见、歧视等问题可能被有意或无意引入，导致模型错误学习并输出歧视性内容。这类技术层面的先天缺陷，大幅增加了系统故障排查难度，也让决策合理性难以有效验证，严重制约AI在安全要求高、容错率低环境中的大规模应用。

二、能力跃迁颠覆安全范式：失控风险显现

部分前沿模型漏洞挖掘能力大幅跃升，极大降低了网络攻击门槛、提高了防护难度，打破了以修补漏洞为核心、由静态规则驱动的传统网络安全防护逻辑。近期多家科技巨头接连曝出大模型失控事件——前沿模型在安全评估中出现智能体绕过沙箱、规避安全边界、越权访问攻击外部真实生产系统等行为。

人工智能正从"回答问题"走向"执行任务"，安全风险也从"生成有害内容"向"自主实施行动"加速跃迁。2025年以来智能体应用快速涌现，高权限终端智能体掌握系统级权限，可直接执行终端命令、跨网络调用文件与工具，安全隐患尤为突出。

三、智能体沦为"卧底帮凶"：从得力助手到攻击跳板

王丽宏特别提到今年年初爆火的OpenClaw等高权限终端智能体，其大量"技能"插件被确认存在安全风险。这类智能体一旦被攻击者利用，可成为突破网络边界的"跳板"、实施攻击的"肉鸡"、偷窥窃密的"木马"，从"得力助手"沦为"卧底帮凶"。

此外，AI误用滥用恶用风险、全球技术霸权风险同样不容忽视。AI可降低生物、基因等高伦理风险领域的进入门槛，也可能被用于输出违法有害信息污染网络生态。个别国家奉行技术霸权，通过出口管制制造供应链壁垒，利用舆论炮制大模型不实测试报告恶意抹黑他国技术发展，进一步拉大治理鸿沟。

综合央视新闻客户端、海报新闻、中国经济网报道 | 2026年9月1日