🎯 科技 · 治理

🔥 AI应用乱象整治进入第二阶段，累计清理违规信息561万余条，7类典型问题集中通报

一、专项行动第二阶段成果公布

9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段工作进展。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。此次通报涵盖了7类突出问题：AI"魔改"经典、AI制作虚假信息、AI假冒仿冒、暴力低俗内容、侵害未成年人权益、AI"托管"水军活动以及AI产品违规等。

专项行动开展以来，各地网信部门因地制宜推出针对性治理措施。北京网信办指导平台全面升级审核策略，持续提升违规内容新型变体识别处置能力；上海网信办督促平台开展自查自纠，推出AI应用"知识普及包"引导公众识别风险；浙江网信办对重点平台开展"一企一策"问诊合规指导；广东网信办召开工作例会点对点督促整改。

二、7类典型案例集中曝光 警示教育意味浓厚

通报中，一批违法违规账号和应用受到处理。其中包括利用AI"魔改"经典名著《三国演义》《西游记》等，颠覆重要人物人设、虚构低质猎奇剧情博取流量的微博、抖音、快手、微信账号；利用AI生成虚假灾害现场、救援画面，编造不实社会热点信息，误导老年人的快手、小红书、抖音账号；以及利用AI"换脸""换声"假冒公众人物形象营销牟利的各类平台账号。

此外，批量发布AI生成合成恐怖诡异、暴力低俗画面的B站、抖音、快手账号，发布AI生成未成年人不当内容的平台账号，以及利用AI"托管"软件引流从事网络水军活动的微信、微博、抖音账号，均被依法依约处置。

三、平台集体响应 从源头防范AI生成违规内容

网站平台积极响应专项行动部署。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，累计发布各类治理公告46期。

豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，严格限制违规内容输出，强化AI生成合成内容标识要求落地，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，对在架APP进行抽检复测，有效拦截违规应用入库。

中央网信办表示，下一步将在总结治理成效基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

综合中国网信网、新华网报道 | 2026年9月2日