📌 #网信办整治AI乱象清理561万条违规

🎯 科技政策 · AI监管

🔥 网信办重拳出击，AI生成内容乱象迎来史上最严治理

9月2日，中央网信办发布"清朗·整治AI应用乱象"专项行动第二阶段进展数据，数字令人咋舌：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。这是中国AI治理从"倡导自律"转向"硬约束"的标志性节点。#网信办整治AI乱象清理561万条违规# 专项行动聚焦四大突出问题：利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益。这四大问题几乎涵盖了当前AI生成内容的所有"灰色地带"。

值得关注的是，此次专项行动特别点名了七类典型案例，包括"AI魔改经典生成数字泔水"、"AI制作发布虚假不实信息"、"AI假冒仿冒他人"、"AI侵害未成年人权益"、"利用AI托管从事网络水军活动"等。其中，"AI托管水军"的披露尤为引人关注——过去依赖人力运营的水军账号，如今正被AI智能体批量替代，形成了自动化、规模化的网络生态污染。

专项行动明确要求网站平台"集中清理AI生成各类违法不良信息"，并建立"常态化治理机制"。这意味着平台不再是被动响应，而需要主动部署AI内容识别、过滤、溯源等技术手段。从近期头部平台的实践来看，字节、百度、腾讯等均已在内容审核系统中接入AI生成内容识别模型，对疑似AI合成内容进行打标和限流。

业内分析认为，此次整治的核心逻辑是"技术与监管并行"：一方面用AI技术治理AI乱象，另一方面通过制度设计压实平台主体责任。网信办表示，下一步将"密切关注AI生成合成内容新情况新风险"，释放的信号是——治理不会松，只会越来越精准。

有观点认为严监管会压制AI创新，但事实恰恰相反。一个健康有序的AI生态，才能让真正有价值的技术创新脱颖而出。清理"数字泔水"、打击虚假信息、保护未成年人，这些举措本质上是在为AI应用划定安全边界。边界清晰了，开发者才能放心创新，用户才能安心使用。随着监管框架日趋完善，中国AI产业正从"野蛮生长"迈向"规范发展"的新阶段。

综合人民日报、新华网报道 | 2026年9月4日