🎯 科技 · AI治理

🔥 AI应用乱象专项整治进入第二阶段，561万条违规信息被清理，4.9万个账号被查处

一、561万条违规信息：AI治理"清朗"行动阶段性成果

9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段工作进展。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。

各地网信部门因地制宜推出针对性治理措施。北京网信办指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力。上海网信办督促平台深入开展自查自纠，推出AI应用"知识普及包"引导公众识别风险。浙江网信办对属地重点平台开展"一企一策"问诊合规指导。广东网信办召开重点网站平台工作例会，点对点督促整改。

561万条这个数字背后，是AI技术滥用带来的信息污染规模，也反映出治理工作的紧迫性。

二、七类典型案例曝光：AI滥用触目惊心

专项行动期间，一批违法违规账号和应用受到处理。中央网信办通报了七类典型案例：利用AI"魔改"经典生成"数字泔水"、AI制作发布虚假不实信息、AI假冒仿冒他人、制作发布暴力低俗信息、AI侵害未成年人权益、利用AI"托管"从事网络水军活动、AI产品服务和应用程序违规。

例如，微博、抖音、快手、微信等平台部分账号滥用AI技术"魔改"《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量。还有账号利用AI生成合成虚假灾害现场、救援画面，编造不实社会热点信息，打造AI数字人进行虚假宣传带货，误导老年人。

更严重的是，部分账号利用AI"换脸""换声"技术，假冒仿冒公众人物形象，生成合成低俗舞蹈、拥抱接吻等图片视频，借机营销牟利。甚至有账号发布AI生成合成未成年人怀孕、打架等与其年龄特点不符的内容，批量制作传播"毒动画"、儿童"虐向""邪典"视频。

AI技术不是法外之地，滥用AI侵害他人权益、破坏网络生态，必将受到法律制裁。

三、平台响应：从技术审核到源头治理

网站平台积极响应专项行动部署安排。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，累计发布各类治理公告46期。

豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，严格限制违规内容输出，强化AI生成合成内容标识要求落地，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，有效拦截违规应用入库。

AI治理需要技术对抗技术，平台的责任不仅是事后处置，更要在源头建立防线。

综合中国网信网、科技日报报道 | 2026年9月3日