🎯 监管 · AI

🔥 累计清理561万条AI违规信息，4.9万账号被查处，AI应用治理进入深水区

一、专项行动第二阶段启动

9月2日，中央网信办宣布"清朗·整治AI应用乱象"专项行动进入第二阶段。截至当时，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。这一数字意味着，每推出一个AI应用，就有一个在违规边缘试探。

专项行动聚焦四类突出问题：利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益。这些不是理论风险，而是每天都在发生的现实危害。

从"魔改"经典名著到批量生产"毒动画"，从AI数字人虚假带货到伪造灾害现场，AI技术的滥用门槛正在降低，治理难度随之上升。

二、典型案件触目惊心

网信部门通报的典型案例令人警醒。微博账号"天**小"、抖音账号"歪**国"等滥用AI技术"魔改"《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量。这类"数字泔水"不仅浪费算力，更在侵蚀文化根基。

更有账号利用AI生成合成未成年人怀孕、打架等内容，批量制作传播"毒动画"，直接侵害未成年人权益。此类内容一旦传播，对青少年心理健康造成不可逆的伤害。

还有一些账号利用AI伪造虚假灾害现场和救援画面，编造不实社会热点信息，误导老年人，制造恐慌情绪。在信息传播速度越来越快的今天，这类虚假信息的危害被成倍放大。

三、平台与监管双向发力

专项行动期间，各大平台积极响应。抖音、快手、微博、百度、哔哩哔哩、小红书等平台升级多模态识别模型，上线人脸实时治理系统，累计发布治理公告46期。豆包、元宝、千问、文心一言等AI产品严把原始语料审核关，从源头防范违规内容生成。

华为、小米、OPPO、vivo等应用商店制定严格的上架规范，对在架APP进行抽检复测，有效拦截违规应用入库。多地网信办也因地制宜推出治理措施：北京全面升级审核策略，上海推出AI应用"知识普及包"，浙江对重点平台"一企一策"问诊指导。

综合人民日报、科技日报报道 | 2026年9月3日