中央网信办整治AI应用乱象 累计清理违法违规信息561万条

🎯 科技 · 网络安全

🔥 中央网信办专项行动第二阶段成效显著，累计清理违法违规AI信息561万余条，查处账号4.9万余个

近日，中央网信办通报"清朗·整治AI应用乱象"专项行动第二阶段工作进展。数据显示，专项行动开展以来，累计清理违法违规信息561万余条，查处违规账号4.9万余个，处置违规网站和应用程序等2400余个。这一数字背后，是AI技术应用狂飙突进时代必须直面的治理课题。

专项行动聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。网信部门因地制宜推出针对性治理措施，督促网站平台健全AI内容常态化治理机制，有效遏制AI生成合成信息内容乱象。专家普遍认为，随着AI技术门槛降低，"人人可生成"的时代正在到来，治理手段必须同步升级。

此次通报的典型案例涵盖了AI滥用的多种新形态。一是利用AI"魔改"经典、生成"数字泔水"，如微博、抖音、快手、微信等平台多个账号滥用AI技术"魔改"《三国演义》《西游记》等经典名著，颠覆重要人物人设，虚构低质猎奇剧情博取流量。二是AI制作发布虚假不实信息，编造灾害现场、救援画面，打造AI数字人进行虚假宣传带货，误导老年人。

三是AI假冒仿冒他人，利用"换脸""换声"等技术假冒公众人物形象，生成低俗舞蹈、拥抱接吻等图片视频牟利。四是批量发布AI生成的恐怖诡异、暴力低俗内容。五是侵害未成年人权益，发布AI生成的未成年人怀孕、打架等不当内容，制作传播"毒动画"。这些案例警示，AI技术滥用已从单纯的内容造假，演变为涉及伦理、法律、未成年人保护的多维治理难题。

网信部门表示，下一步将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势和规律，密切关注AI生成合成内容新情况新风险，及时采取有效措施防范AI技术滥用恶用。分析人士指出，这意味着监管正从"事后处置"向"源头防控"转变。

中国人民大学法学院教授刘俊海认为，AI治理需要平衡技术创新与风险防控。一方面要保护正当的AI应用场景，另一方面要对违法行为"零容忍"。他建议建立AI生成内容标识制度，要求平台对AI生成内容进行醒目标注，保障用户知情权。同时，应完善AI服务提供者的法律责任，对明知或应知用户利用AI从事违法活动的，承担相应连带责任。

综合人民日报、新华社报道 | 2026年9月3日