🎯 科技 · AI治理

🔥 中央网信办"清朗"专项行动第二阶段数据公布，AI生成乱象得到有力遏制

一、重拳整治AI生成内容乱象

9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段工作成果。数据显示，截至目前已累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站和应用程序等2400余个。专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，推动AI应用服务健康有序发展。

各地网信部门因地制宜推出针对性治理措施，网站平台持续健全AI内容常态化治理机制。从清理数据来看，超过560万条违法违规信息的清除规模，显示出AI生成内容治理的紧迫性和必要性。

二、六大典型违规类型被通报

网信部门通报了多类违法违规典型案例，涵盖六大主要问题类型。第一类是利用AI"魔改"经典作品、生成"数字泔水"；第二类是AI制作发布虚假不实信息；第三类是AI假冒仿冒他人；第四类是制作发布暴力低俗等信息；第五类是AI侵害未成年人权益；第六类是利用AI"托管"从事网络水军活动。

这些典型案例暴露出AI技术应用中的伦理和安全风险。尤其是"AI假冒仿冒他人"和"侵害未成年人权益"两类问题，直接关系到公民人格权益保护，成为监管重点。网络水军利用AI"托管"从事自动化刷量、刷评等活动，也严重扰乱网络秩序。

三、治理长效机制逐步完善

专项行动期间，各地网信部门切实履行属地监管责任，网站平台积极响应部署安排。网信部门通过案例通报加强警示教育，推动平台建立AI内容审核机制。专家指出，AI生成内容的监管需要技术手段与制度规范双管齐下，既要保护技术创新活力，又要守住内容安全底线。

随着大模型技术快速迭代，AI生成内容的识别和治理面临新挑战。监管部门表示将持续关注新技术应用风险，完善治理规则，推动形成政府监管、平台负责、行业自律、社会监督的多元共治格局，让AI技术在法治轨道上健康发展。

综合人民日报、网信中国报道 | 2026年9月3日