🎯 政策 · AI监管

中央网信办通报AI乱象整治第二阶段成果：清理违规信息561万余条，查处账号4.9万余个，7类典型问题集中曝光。

一、五大类AI乱象集中曝光

9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段工作进展。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。通报集中曝光了七类典型问题：滥用AI"魔改"经典名著生成"数字泔水"、利用AI制作发布虚假灾害画面、AI"换脸""换声"假冒公众人物、批量发布暴力低俗AI合成内容、侵害未成年人权益的"毒动画"、利用AI"托管"从事网络水军活动，以及AI产品服务和应用程序违规。

其中，利用AI"魔改"《三国演义》《西游记》等经典名著、颠覆重要人物人设博取流量，以及打造AI数字人进行虚假宣传带货误导老年人等问题尤为突出。网信部门明确，对拒不改正的将依法采取警告、罚款、下架或关闭等措施。

二、多地网信部门因地制宜精准治理

专项行动开展以来，各地网信部门推出一系列针对性治理措施。北京网信办指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力。上海网信办推出AI应用"知识普及包"引导公众识别问题风险。浙江网信办对属地重点平台开展"一企一策"问诊进行合规指导。广东网信办召开重点网站平台工作例会，对多款应用违规问题开展点对点督促整改。

平台层面，抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书等十家平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，累计发布各类治理公告46期。豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，从源头防范违法违规信息生成传播。

三、安全与发展的平衡之道

9月1日，中央网信办网络安全协调局副局长王丽宏在国家网络安全宣传周新闻发布会上剖析了当前人工智能面临的安全风险挑战。她指出，深度学习算法本身运行逻辑复杂、可解释性欠缺，推理过程不透明，即便是微小的输入扰动也可能导致错误推理结果。部分前沿模型漏洞挖掘能力大幅跃升，极大降低了网络攻击门槛，打破了传统网络安全防护逻辑。

网信部门表示，下一步将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。2026年国家网络安全宣传周将于9月14日至20日在全国范围举行。

综合中国网信网、上海证券报报道 | 2026年9月2日