🎯 科技 · 监管

🔥 AI不是法外之地：561万条违规信息被清理，4.9万账号被查处的背后，是监管对AI滥用亮出的最强利剑

一、专项行动第二阶段全面启动

9月2日，中央网信办正式宣布"清朗·整治AI应用乱象"专项行动进入第二阶段。这场针对AI生成内容乱象的集中整治行动，自启动以来已取得显著成效：累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站和应用程序2400余个。

专项行动聚焦四大突出问题——利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人身份、侵害未成年人权益。各地网信部门因地制宜推出针对性治理措施，北京升级审核策略提升新型变体识别能力，上海推出AI应用"知识普及包"引导公众识别风险，浙江对重点平台开展"一企一策"合规问诊，广东召开重点企业工作例会点对点督促整改。

二、七大类典型案例集中通报

为强化警示教育，网信部门通报了多起典型案例。一是利用AI"魔改"经典名著生成"数字泔水"，颠覆《三国演义》《西游记》等重要人物人设博取流量；二是AI制作发布虚假灾害现场和救援画面，编造不实社会热点信息；三是AI假冒仿冒他人身份进行虚假宣传；四是制作发布暴力低俗信息；五是AI侵害未成年人权益；六是利用AI"托管"从事网络水军活动；七是AI产品服务和应用程序违规。

561万条违法违规信息的清理数字，标志着AI内容治理进入深水区。网站平台同步响应，抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎等平台优化多模态识别模型，上线人脸实时治理系统，累计发布治理公告46期。豆包、元宝、千问、文心一言等平台严把原始语料审核关，华为、小米、OPPO、vivo等应用商店制定严格的上架规范。

三、AI监管与创新发展如何平衡

网信部门表示，将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

随着AI技术快速迭代，如何在鼓励创新与防范风险之间找到平衡点，成为监管部门和企业共同面对的课题。此次专项行动释放的明确信号是：AI应用的红线不可触碰，技术狂奔必须装上监管的"刹车系统"。未来，随着"人工智能应用服务商培育专项行动"等配套政策落地，AI产业将在规范中迈向更健康的发展轨道。

综合人民日报、科技日报、新华社报道 | 2026年9月3日