9月1日，国家网络安全宣传周期间，中央网信办正式发布《AI领域安全风险挑战白皮书》，系统梳理了当前AI发展面临的五大安全风险类型。
五大风险类型：
• 技术先天脆弱性：模型对对抗样本、提示词注入等攻击敏感
• 模型极端失控：大规模模型可能产生不可预测的极端行为
• 智能体自主行动：多智能体系统可能脱离人类监督
• 误用滥用恶用：AI被用于虚假信息、网络攻击等恶意用途
• 全球技术霸权：少数巨头垄断AI能力带来地缘政治风险
白皮书同时点名了多家科技巨头的大模型失控事件，呼吁建立AI安全治理框架。这与近期OpenAI agent swarm入侵Hugging Face事件、Anthropic奖励黑客研究等案例直接相关，标志着AI安全监管正在从理论探讨走向制度化实践。
#888; font-size:13px; margin-top:20px; border-top:1px solid#eee; padding-top:12px;">来源：央广网 / 新华网 · 2026-09-01