📌 #网信办整治AI应用乱象清理561万条违规

🎯 政策 · 互联网监管

🔥 网信办'清朗'专项行动第二阶段收官，561万条AI违规信息被清理，4.9万个违规账号被查处

9月2日，#网信办整治AI应用乱象清理561万条违规#这一消息引发社会广泛关注。中央网信办公布'清朗·整治AI应用乱象'专项行动第二阶段工作成果。自行动开展以来，各地网信部门聚焦四大突出问题精准发力：利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人身份、侵害未成年人权益。监管部门部署各地深入推进重点整治任务，督促网站平台集中清理AI生成的各类违法不良信息，依法查处违规账号和移动应用程序，有效遏制了AI生成合成信息内容乱象。

截至目前，累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站和应用程序2400余个。这一组数字背后，是AI技术普及以来内容生态治理面临的严峻挑战——当生成内容成本趋近于零，虚假信息、侵权内容的传播速度和规模呈指数级增长。

为进一步加强警示教育，网信部门通报了多类典型违规案例。其中，利用AI'魔改'经典作品、生成'数字泔水'引发广泛关注——一些账号使用AI工具对经典影视作品进行恶意剪辑和重新配音，篡改原作价值观，损害文化传承。AI制作发布虚假不实信息同样不容忽视，部分自媒体利用AI生成逼真的虚假新闻和图片，误导公众舆论。

更为隐蔽的是AI假冒仿冒他人行为。不法分子利用深度伪造技术，仿冒公众人物、企业高管的声音和形象，实施诈骗或商业诋毁。此外，AI侵害未成年人权益、利用AI'托管'从事网络水军活动、AI产品服务和应用程序违规等情形也频频被曝光。这些案例表明，AI技术的滥用已从单纯的内容造假，延伸至网络诈骗、侵权侵权、破坏网络秩序等多个维度。

专项行动期间，网站平台积极响应部署安排，持续健全AI内容常态化治理机制。多家主流平台表示，已上线AI生成内容标识系统，对疑似AI生成内容进行标注和审核，从源头上减少违规内容的传播。与此同时，监管部门也强调，AI治理不能仅靠运动式整治，必须建立长效监管机制。

随着GPT-6、Claude Opus 5等新一代大模型相继发布，AI生成内容的质量和逼真度持续提升，治理难度也随之加大。如何在鼓励技术创新与维护清朗网络空间之间取得平衡，成为各方共同面对的课题。专家建议，应加快完善AI内容标识、溯源、追责等制度体系，推动AI应用服务在法治轨道上健康有序发展。

综合人民日报、人民网、北青网报道 | 2026年9月4日