🎯 科技 · AI治理

🔥 中央网信办「清朗·整治AI应用乱象」专项行动第二阶段启动，已累计清理违规信息561万余条

一、专项行动第二阶段正式开展

9月2日，中央网信办官网发布通报，「清朗·整治AI应用乱象」专项行动进入第二阶段。此次行动聚焦四大突出问题：利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益。截至通报发布，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。数据背后，是AI生成内容监管从「运动式整治」向「常态化治理」的转变。

561万条违规信息是什么概念？相当于每天清理约47万条AI生成的违法不良信息。这一规模，远超传统互联网内容治理的历史峰值，标志着AI治理已进入深水区。

二、典型案例揭示AI滥用新形态

通报曝光了六类典型案例。一是AI「魔改」经典，如滥用AI技术「魔改」《三国演义》《西游记》，颠覆人物人设生成低质猎奇剧情。二是AI制作虚假灾害现场和救援画面，编造社会热点误导公众。三是AI假冒仿冒他人身份进行虚假宣传。

值得关注的是「AI托管网络水军」新形态——部分账号利用AI智能体7×24小时不间断发布带节奏内容，从「人工发帖」进化为「机器养号」，隐蔽性更强、传播效率更高。从「生成有害内容」到「自主实施行动」，AI治理的边界正在被重新定义。

三、平台响应：从源头到终端的全链条治理

抖音、快手、微博、腾讯、百度、哔哩哔哩等平台已全面升级审核策略，优化多模态识别模型，上线人脸实时治理系统。豆包、元宝、千问、文心一言等AI大模型平台严把原始语料审核关，从源头防范违法违规信息生成。华为、小米、OPPO、vivo等应用商店制定严格的上架规范，对在架APP进行抽检复测。

治理的核心逻辑是「源头管控+平台履责+技术对抗」三位一体。当AI生成内容的门槛越来越低，监管的技术能力也必须同步进化。9月14日至20日即将举行的2026年国家网络安全宣传周，将以「智能时代 网安护航」为主题，进一步凝聚全社会筑牢AI安全防线的共识。

综合中国网信网、科技日报报道 | 2026年9月2日