🎯 政策 · AI治理

🔥 AI应用乱象治理进入第二阶段：累计清理违法违规信息561万余条，查处账号4.9万余个

一、清理561万条违规信息，治理成效显著

9月2日，中央网信办官方通报，"清朗·整治AI应用乱象"专项行动第二阶段工作已取得阶段性成效。专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务，督促网站平台集中清理AI生成各类违法不良信息。

截至通报发布时，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。这一数据背后，是网信部门对AI生成内容乱象的强力整治，也为整个行业的健康发展划出了清晰的红线。AI技术的快速发展带来了便利，但也催生了大量违规内容，从deepfake虚假视频到AI生成低俗信息，治理刻不容缓。

二、多部门联动，各地创新治理模式

专项行动开展以来，各地网信部门因地制宜，推出了一系列针对性治理措施。北京网信办指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力；上海网信办督促平台深入开展自查自纠，推出AI应用"知识普及包"引导公众识别问题风险；浙江网信办对属地重点平台开展"一企一策"问诊进行合规指导；广东网信办召开重点网站平台工作例会，对多款应用违规问题开展点对点督促整改。

网站平台方面，抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，累计发布各类治理公告46期。豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，强化AI生成合成内容标识要求落地，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店也制定严格的APP开发者准入规范，对在架APP进行抽检复测，有效拦截违规应用入库。

三、下一阶段治理重点在哪里？

中央网信办表示，下一步将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

分析人士指出，AI治理不是"一刀切"的禁止，而是"边发展边规范"的动态平衡。561万条违规信息的清理，彰显了监管部门对AI乱象"零容忍"的态度；而各地创新的治理模式，也为后续工作积累了宝贵经验。未来，随着AI技术不断迭代，治理手段也将持续升级，如何在鼓励创新与防范风险之间找到平衡点，将是各方长期面对的课题。

综合中国网信网、第一财经报道 | 2026年9月2日