🎯 社会 · AI治理

🔥 清朗行动重拳出击：AI生成乱象全面整治，4.9万账号被查处

一、重拳出击，五大领域乱象集中清理

9月2日，中央网信办发布消息，组织开展"清朗·整治AI应用乱象"专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个，治理成效令人瞩目。

专项行动期间，中央网信办通报了七起滥用恶用AI技术的典型案例，涉及领域广泛、影响恶劣。其中，利用AI"魔改"经典名著、生成"数字泔水"博取流量的行为引发关注，微博账号"天**小"、抖音账号"歪**国"、快手账号"小*菌"、微信账号"咸*i"等滥用AI技术"魔改"《三国演义》《西游记》等经典，颠覆重要人物人设，虚构低质猎奇剧情，相关账号已被依法依约处置。

二、虚假信息与假冒仿冒：AI技术滥用最突出风险

AI制作发布虚假不实信息是此次整治的重点之一。快手账号"云**视"、小红书账号"有*头"、抖音账号"7**员"、微信账号"长**帆"等，利用AI生成合成虚假灾害现场、救援画面，编造不实社会热点信息，发布封建迷信内容，打造AI数字人进行虚假宣传带货，误导老年人，制造恐慌情绪，严重扰乱网络传播秩序。

AI假冒仿冒他人问题同样严峻。抖音账号"特**力"、快手账号"石*"、小红书账号"潮**件"、微信账号"M**勒"等，利用AI"换脸""换声"等技术，假冒仿冒公众人物形象，生成合成低俗舞蹈、拥抱接吻等图片视频，借机营销牟利，侵害他人合法权益，相关账号已被依法依约处置。此外，制作发布暴力低俗信息、AI侵害未成年人权益、利用AI"托管"从事网络水军活动等问题，均在通报案例之列，显示出监管部门对AI滥用行为的全覆盖治理态势。

三、平台响应，技术赋能与源头防控并重

各大网站平台积极响应专项行动部署，持续健全AI内容常态化治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，提升违规内容智能检测和拦截效率，累计发布各类治理公告46期。

AI大模型平台方面，豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，严格限制违规内容输出，强化AI生成合成内容标识要求落地，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，对在架APP进行抽检复测，有效拦截违规应用入库。北京、上海、浙江、广东等地网信部门因地制宜推出针对性治理措施，形成了中央统筹、地方联动、平台协同的综合治理格局。技术向善，治理向前，AI应用服务的健康有序发展正稳步推进。

综合新华网、中国网信网、科技日报报道 | 2026年9月2日