🎯 科技 · AI治理
🔥 网信办重拳整治AI应用乱象，561万条违规信息被清理，4.9万个账号被查处
9月2日，中央网信办公布"清朗·整治AI应用乱象"专项行动第二阶段成果数据：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序等2400余个。这股监管风暴，正在重塑中国AI应用的底层逻辑。
专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。网信部门通报的典型案例中，最引人关注的是AI"魔改"经典作品、生成"数字泔水"的现象——一些账号利用AI工具对经典影视、文学作品进行恶意篡改，生产低俗猎奇内容，严重破坏文化生态。
更值得警惕的是AI假冒仿冒问题。部分平台出现利用AI换脸、拟声技术假冒公众人物的现象，不仅侵犯个人隐私，还可能被用于网络诈骗。专项行动中，多起AI生成虚假不实信息案件被公开通报，包括伪造突发事件现场视频、编造名人名言诱导流量等。
一位长期关注AI治理的学者指出，"561万条"这个数字背后，反映的是AI生成内容爆发式增长带来的治理挑战。当AI工具门槛大幅降低，几乎任何人都能在几分钟内生成海量内容，传统的"先发布后审核"模式已难以应对。网信部门提出的"常态化治理机制"，正在推动平台从被动响应转向主动防控。
值得注意的是，此次专项行动还特别关注利用AI"托管"从事网络水军活动的新动向。一些黑产团伙利用AI批量生成评论、点赞、转发内容，形成自动化水军矩阵，严重干扰网络舆论生态。监管部门已将此类行为纳入重点打击范围。
综合人民网、人民日报报道 | 2026年9月4日