🎯 科技 · AI治理
🔥 AI不是法外之地，魔改经典、制造假信息、假冒他人……清理违法违规信息561万条，4.9万个账号被查处
开学季还未完全过去，一场针对AI应用乱象的"清朗"行动已在网络上掀起巨浪。9月2日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段成果：累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序2400余个。
数据背后，是AI技术野蛮生长带来的现实焦虑。当AI可以一键生成虚假新闻、一键"换脸"模仿名人、一键批量制造水军账号时，普通人的信息安全和合法权益正面临前所未有的威胁。
专项行动期间，网信部门通报了一批典型案例，触目惊心。有的账号利用AI"魔改"《三国演义》《西游记》等经典名著，颠覆人物人设，虚构低质猎奇剧情博取流量，被网友斥为"数字泔水"。有的利用AI生成虚假灾害现场和救援画面，编造不实社会热点，制造恐慌情绪。还有的利用AI"换脸""换声"假冒仿冒他人，甚至侵害未成年人权益。
二、灰产链条：AI成了"造假神器"更值得关注的是，AI技术已被用于构建完整的网络黑灰产链条。有"打号者"公开报价：25元可举报500次，1200元能让一个账号"消失"，28.8元即可学到"打号"经验。他们用AI伪造举报材料，批量恶意投诉，致使他人视频下架、账号被封，然后收取"保护费"或替品牌方"平事"。
一名"打号者"甚至晒出战绩——1个月赚了5万多元。举报权本是净化网络生态的工具，如今却成了明码标价的生意手段。创作者数月心血的视频，几分钟内就可能因批量恶意投诉被下架。
除了恶意举报，虚拟艺人广告灰产也在泛滥。部分MCN机构仅凭产品图片，依托AI批量生成虚拟人"真实测评"的营销视频，甚至出现处方药、医美产品违规软植入。虚拟数字人无实体感知、无真实使用经历，刻意塑造"亲身种草"场景，本质是虚假宣传。
三、多管齐下：从源头到终端的全链条治理面对AI滥用带来的新挑战，各地网信部门因地制宜推出针对性治理措施。北京指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力。上海推出AI应用"知识普及包"引导公众识别风险。浙江对重点平台开展"一企一策"问诊合规指导。广东召开重点网站平台工作例会，点对点督促整改。
平台侧也在加速行动。抖音、快手、微博、微信、百度、B站、小红书、知乎等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，累计发布治理公告46期。豆包、元宝、千问、文心一言等平台严把原始语料审核关，严格限制违规内容输出。
9月1日起，《互联网信息内容多渠道分发服务管理规定》正式施行，首次在部门规章层面将"协助网络暴力"明确纳入禁止范围，MCN机构及公众账号运营者禁止组织、煽动、参与网络暴力活动。这一规定为治理流量造假、开盒教程等灰色业务提供了法律依据。
整治AI应用乱象，既要"清存量"也要"控增量"。561万条违法违规信息是阶段性成果，但AI技术的迭代速度远超治理速度。只有让违法成本远高于违法收益，让技术向善成为行业共识，才能真正让AI回归服务民生的正轨。
综合人民网、新华社报道 | 2026年9月3日