🎯 科技 · AI治理

🔥 清理违法违规信息561万余条，查处账号4.9万余个，AI治理进入深水期

一、专项行动第二阶段成果公布，五大乱象重点整治

9月2日，中央网信办公布"清朗·整治AI应用乱象"专项行动第二阶段工作进展。行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，依法查处违规账号和移动应用程序。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个，AI内容治理力度持续加码。

专项行动期间，网信部门通报了部分典型案例。包括利用AI"魔改"经典、生成"数字泔水"，AI制作发布虚假不实信息，AI假冒仿冒他人身份，制作发布暴力低俗信息，以及AI侵害未成年人权益等多种违规情形。这些典型案例的集中曝光，释放出AI治理从"软约束"向"硬规矩"转变的明确信号。

二、AI"数字泔水"引发关注，经典作品被恶意篡改

在通报的典型案例中，利用AI"魔改"经典、生成"数字泔水"的问题尤为引人关注。部分账号利用AI技术对经典影视作品、文学作品进行恶意篡改和二次创作，生成低俗、荒诞的"AI二创"内容，不仅损害了原创作品的艺术价值，也侵蚀了公共文化空间的品质。

另一类突出问题是AI假冒仿冒他人。一些违规账号利用AI换脸、拟声等技术，假冒公众人物、新闻主播甚至普通公民，制作发布虚假视频和信息。这类行为不仅侵犯他人人格权，也严重扰乱网络信息秩序，误导公众认知。部分案例还涉及利用AI"托管"从事网络水军活动，通过批量生成内容操纵舆论走向。

三、平台责任持续压实，常态化治理机制逐步建立

专项行动开展以来，各地网信部门切实履行属地监管责任，因地制宜推出一系列针对性治理措施。网站平台积极响应专项行动部署安排，持续健全AI内容常态化治理机制。主流平台纷纷上线AI生成内容标识系统，要求用户对AI生成内容进行标注，从源头提升内容透明度。

专家指出，AI治理的深入需要技术监管与制度建设双管齐下。随着AI生成技术门槛持续降低，内容造假成本远低于传统手段，"深伪"检测、溯源认证等技术监管工具的应用显得愈发重要。同时，相关法律法规的完善也在加速推进，为AI健康有序发展划定清晰边界。《人民日报》评论指出，推动AI应用服务健康有序发展，既需要"清朗"行动的铁腕整治，也需要长效治理机制的持续建设。

综合人民日报、新华社报道 | 2026年9月3日