🎯 科技 · AI治理

🔥 中央网信办重拳整治AI应用乱象，累计清理违规信息561万条，为AI健康发展划定红线

一、561万条违规信息背后的治理决心

近日，中央网信办公布"清朗·整治AI应用乱象"专项行动第二阶段工作进展，数据令人瞩目：累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站和应用程序2400余个。这一数字背后，是国家对AI生成内容治理的高度重视和坚定决心。AI技术快速发展之际，治理框架同步跟进，确保技术应用不越红线。

专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。各地网信部门因地制宜推出针对性治理措施，网站平台持续健全AI内容常态化治理机制，形成自上而下、多方协同的治理格局。

二、六大典型乱象逐一曝光

网信部门通报了多类典型违法案例，覆盖AI技术应用的主要风险点。一是利用AI"魔改"经典作品、生成"数字泔水"，损害文化传承和作者权益；二是AI制作发布虚假不实信息，误导公众认知；三是AI假冒仿冒他人身份，用于诈骗或损害个人名誉；四是制作发布暴力低俗信息，污染网络生态。

此外，AI侵害未成年人权益、利用AI"托管"从事网络水军活动、AI产品服务和应用程序违规等情形也引发关注。从技术滥用到法律边界，治理覆盖AI应用的各个环节。

三、平台治理进入技术驱动新阶段

抖音、快手、微博、腾讯、百度、哔哩哔哩等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，提升违规内容智能检测和拦截效率。累计发布各类治理公告46期，治理力度持续加大。

中央网信办表示，下一步将总结专项行动治理成效，把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用，持续为人工智能创新发展营造良好环境。

综合人民日报、光明网报道 | 2026年9月3日