🎯 科技 · 监管

🔥 AI不是法外之地，561万条违规信息下架、4.9万账号被封，监管铁拳正在重塑AI应用生态

9月2日，中央网信办发布最新通报，"清朗·整治AI应用乱象"专项行动第二阶段工作取得阶段性成果：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。这一数据背后，是AI技术野蛮生长之后必须面对的治理大考。

专项行动聚焦四大突出问题——利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益。通报披露的典型案例令人警醒：有账号滥用AI"魔改"《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量；有账号利用AI生成合成虚假灾害现场、救援画面，编造不实社会热点信息；还有账号打造AI数字人进行虚假宣传带货，专门误导老年群体。

这些不是遥远的技术风险，而是正在发生的现实危害。当AI生成成本几乎为零，虚假信息可以批量生产，传统的内容审核机制面临前所未有的挑战。网信办的专项行动，正是在给狂奔的AI应用踩一脚刹车。

二、平台自查，多管齐下

专项行动不仅靠监管驱动，更激活了平台自查自纠的内生动力。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等十大平台全面强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统。累计发布各类治理公告46期，形成了常态化治理机制。

豆包、元宝、千问、文心一言等大模型平台则从源头把控，严把原始语料内容审核关，严格限制违规内容输出，强化AI生成合成内容标识要求落地。应用商店也加入了防线——华为、小米、OPPO、vivo制定严格的APP开发者准入规范，对在架APP进行抽检复测，有效拦截违规应用入库。

北京、上海、浙江、广东等地网信部门因地制宜推出针对性措施：北京升级审核策略，上海推出AI应用"知识普及包"引导公众识别风险，浙江对重点平台"一企一策"问诊合规，广东召开工作例会点对点督促整改。

三、治理与发展的平衡术

整治不是目的，规范发展才是根本。网信办明确表示，将在总结治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

这一表态释放了明确信号：监管的目的是"清朗"而非"清场"。随着AI技术加速渗透各行各业，如何在鼓励创新与防范风险之间找到平衡点，是各国政府共同面对的课题。中国选择了一条"发展中的治理"路径——边发展边规范，边规范边发展。

561万条违规信息的清理只是一个开始。当AI生成内容越来越逼真、越来越廉价，治理的能力也必须同步升级。这场治理大考，考验的是技术、制度与社会的协同进化能力。

综合中国网信网、新华网、科技日报报道 | 2026年9月2日