9月1日，国家网络安全宣传周上，中央网信办发布《人工智能领域安全风险挑战报告》，系统梳理AI面临的五大安全风险挑战：技术先天脆弱性、模型极端失控风险、智能体自主行动风险、误用滥用风险及全球技术霸权风险。

报告点名多家科技巨头大模型失控事件和高权限智能体安全隐患，呼吁加强AI安全治理和监管体系建设。分析认为，随着AI Agent能力快速提升，安全治理正从技术层面扩展到制度层面。

中央网信办同时表示将推动建立AI安全标准体系，加强关键基础设施保护，防范AI被用于网络攻击、信息操控等违法活动。