🎯 科技 · 监管

🔥 AI不是法外之地，网信办重拳整治AI应用乱象，561万条违规信息被清理

一、专项行动第二阶段取得阶段性成效

中央网信办近日通报，"清朗·整治AI应用乱象"专项行动第二阶段工作已取得显著成效。截至目前，全国累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。这一连串数字背后，是AI技术被滥用的种种乱象正在被系统治理。

专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。各地网信部门因地制宜推出针对性治理措施，网站平台持续健全AI内容常态化治理机制。AI技术的滥用边界正在被清晰划定，监管利剑高悬。

二、七大典型案例揭露AI滥用新手法

网信部门通报了多起典型案例，揭示了AI被滥用的多种形态。一是利用AI"魔改"经典名著，生成"数字泔水"博取流量；二是AI制作发布虚假灾害现场、救援画面，编造不实社会热点；三是利用AI"换脸""换声"技术假冒公众人物牟利。

此外，还有制作发布暴力低俗内容、侵害未成年人权益、利用AI"托管"从事网络水军活动、AI产品服务和应用程序违规等情形。广东清远一网民因AI造谣防汛通知被行政处罚的案例，就发生在我们身边，足以敲响警钟。

三、AI治理需要多方协同共治

专家指出，AI治理不能仅靠监管单打独斗，需要平台严守关口、行业自律约束、网民自觉守法。面对利用AI制造虚假信息的新型网络风险，监管部门持续发力，平台侧也需要完善AI生成内容标识、权限管理、人工审核等机制。

网络空间不是法外之地，AI更不能成为违法违规行为的"助推器"。只有让AI技术始终在服务公众、创造价值的轨道上运行，才能真正释放技术红利。清朗网络空间，需要你我共同守护。

综合人民日报、网信中国、英德发布报道 | 2026年9月4日