📌 #中央网信办深入整治AI应用乱象

🎯 科技 · AI治理

🔥 清理信息561万条、查处账号4.9万个，AI治理从"野蛮生长"进入"规范发展"新阶段

近日，#中央网信办深入整治AI应用乱象#专项行动取得显著成效，清理信息561万条、查处账号4.9万个，彰显国家治理决心。

9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段成果：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。这组数字背后，是国家对AI技术滥用问题的零容忍态度。

专项行动聚焦五大突出问题：利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益，以及利用AI"托管"从事网络水军活动。这些乱象若不及时遏制，将严重扰乱网络空间秩序，损害公众利益。

通报披露的典型案例令人触目惊心。部分账号滥用AI技术"魔改"《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量，被网友痛批为"数字泔水"。更有甚者，利用AI生成虚假灾害现场、救援画面，编造不实社会热点信息，甚至打造AI数字人进行虚假宣传带货，专门误导老年人。

这些案例暴露出AI技术滥用的三种典型模式：一是内容造假，利用Deepfake技术伪造虚假画面；二是身份假冒，仿冒名人、专家进行虚假宣传；三是流量劫持，通过AI"托管"操作批量账号从事网络水军活动。

抖音、快手、微博、腾讯、百度等主流平台积极响应，累计发布各类治理公告46期。豆包、元宝、千问、文心一言等AI大模型平台严把原始语料审核关，强化AI生成内容标识要求落地。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范，对在架APP进行抽检复测。

多地网信部门因地制宜推出治理措施。北京网信办指导平台升级审核策略，上海网信办推出AI应用"知识普及包"，浙江网信办开展"一企一策"合规指导，广东网信办召开重点企业工作例会。这些举措形成从中央到地方的立体化治理网络。

中央网信办表示，下一步将总结专项行动治理成效，把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

AI治理不是限制技术发展，而是为创新划定安全边界。只有让技术在法治轨道上运行，才能真正释放AI的红利，让人民群众在数字化进程中有更多获得感、幸福感、安全感。

综合中国网信网、新华网、科技日报报道 | 2026年9月2日