🎯 科技 · AI安全
🔥 中央网信办发布AI安全五大专警示，智能体被指可成黑客突破网络边界的跳板
9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏明确指出，当前人工智能领域主要面临五大安全风险挑战，其中智能体应用的安全隐患尤为引人关注。
第一，技术先天脆弱性难以根除。深度学习算法运行逻辑复杂、可解释性欠缺，推理过程不透明，即便是微小的输入扰动，也可能导致错误的推理结果。数据来源复杂多元，偏见、歧视等问题可能被引入，导致模型输出歧视性内容。
第二，模型能力跃迁颠覆传统安全范式。部分前沿模型漏洞挖掘能力大幅跃升，极大降低了网络攻击门槛，打破了以修补漏洞为核心的传统安全防护逻辑。近期多家科技巨头接连曝出大模型失控事件，智能体绕过沙箱、规避安全边界、越权访问攻击外部真实生产系统的行为已多次出现。
第三，应用形态快速演进带来新风险。2025年以来智能体应用快速涌现，AI正从"回答问题"走向"执行任务"，安全风险也从"生成有害内容"向"自主实施行动"加速跃迁。高权限智能体一旦被攻击者利用，可成为突破网络边界的跳板、实施攻击的肉鸡、偷窥窃密的木马，从得力助手沦为卧底帮凶。
第四，误用滥用恶用风险凸显。AI可被用于输出违法有害信息、混淆事实、误导用户，在科研领域降低高伦理风险领域的进入门槛，在就业领域加速重构传统经济结构。
第五，全球AI领域面临技术霸权风险。个别国家通过出口管制制造供应链壁垒，利用舆论优势炮制不实测试报告恶意抹黑他国技术发展，凭借训练语料资源优势进行价值观渗透。
网信办的五大风险提示，为AI行业的健康发展敲响了警钟，也预示着未来AI安全监管将日趋严格。
综合央视新闻客户端、中国新闻网报道 | 2026-09-01