网信办重拳整治AI 561万条违规被查

🎯 科技 · AI治理

🔥 AI技术狂奔背后，治理红线正在收紧：561万条违规信息被清理，4.9万账号遭查处

就在今天，中央网信办通报了"清朗·整治AI应用乱象"专项行动第二阶段工作的最新数据——累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。这组数字背后，是AI技术野蛮生长以来的一次集中"大扫除"。

从"魔改"经典名著生成"数字泔水"，到用AI换脸换声假冒公众人物牟利；从制造虚假灾害现场误导公众，到利用AI"托管"从事网络水军活动……#网信办重拳整治AI 561万条违规被查#专项行动聚焦的六大乱象，每一条都踩在公众信任的底线之上。

值得关注的是，此次整治并非"一刀切"，而是区分了责任主体，平台、应用、个人各有其责。北京、上海、浙江、广东四地网信部门推出了各具特色的治理措施：北京全面升级审核策略，上海推出AI应用"知识普及包"，浙江实行"一企一策"合规指导，广东点对点督促整改。这种因地制宜的打法，让监管既有力度又有温度。

与此同时，各大平台也在加速"自我革命"。抖音、快手、微博、小红书等10余家平台优化多模态识别模型，上线人脸实时治理系统，累计发布治理公告46期；豆包、元宝、千问、文心一言等大模型平台严把原始语料审核关，从源头防范违规内容生成；华为、小米、OPPO、vivo等应用商店对在售APP进行抽检复测，拦截违规应用入库。

一、"数字泔水"为何成了治理重点？

所谓"数字泔水"，是指利用AI"魔改"经典名著，颠覆人物人设、虚构猎奇剧情博取流量的低质内容。微博、抖音、快手、微信上多个账号因此被处置。这类内容看似无伤大雅，实则侵蚀文化根基，伤害公众情感。

更令人担忧的是，AI生成虚假灾害现场、救援画面的能力已经接近以假乱真。有账号利用AI编造社会热点、制造恐慌情绪，甚至打造AI数字人进行虚假宣传带货，专门针对老年人群体实施精准诈骗。技术本身无罪，但滥用技术的人需要被严惩。

假冒仿冒问题同样触目惊心。部分账号利用AI"换脸""换声"技术，假冒公众人物生成低俗视频营销牟利，严重侵害他人名誉权和肖像权。这种行为不仅触碰法律红线，也破坏了网络空间的公序良俗。

二、治理与发展的平衡术

整治乱象，并不意味着扼杀创新。网信部门明确表示，将在总结治理成效的基础上，进一步把握AI发展趋势和规律，及时采取有效措施防范技术滥用，持续为人工智能创新发展营造良好环境。这种"边发展边治理"的思路，体现了监管部门对AI产业规律的深刻把握。

事实上，AI技术的每一次突破都伴随着风险管控的升级。从OpenAI模型突破网络安全阈值后的能力限制，到中国开放权重模型的快速崛起，全球AI治理正在形成"技术发展-风险识别-制度响应"的正向循环。中国的"清朗"行动，正是这一循环中的重要一环。

对于普通用户而言，识别AI生成内容的能力也需同步提升。各地网信部门推出的"知识普及包"、平台上线的AI生成内容标识要求，都在帮助公众建立"内容辨识力"。只有用户具备辨别能力，治理才能形成全社会共治的合力。

三、下一步：从"治乱"走向"治本"

专项行动第二阶段已收获阶段性成果，但AI技术的迭代速度远超监管响应周期。如何让治理从"事后惩戒"转向"事前预防"，是下一步的核心课题。

技术层面，多模态识别、人脸实时治理、违规样本库扩充等措施已初见成效，但仍需持续投入。应用层面，大模型平台的语料审核、应用商店的准入机制需要进一步刚性化。法律层面，AI生成内容的版权归属、责任认定、侵权救济等制度设计亟待完善。

AI治理的终极目标不是"管死"，而是让技术在正确的轨道上奔跑。561万条数据的清理，4.9万个账号的查处，只是一个开始。当AI从"工具"变为"伙伴"，治理的智慧将决定我们走得多远。

综合新华网、中国网信网、科技日报报道 | 2026年9月2日