🎯 科技 · AI治理
🔥 网信办整治AI应用乱象第二阶段收官：561万条违规信息被清理
记者从中央网信办获悉，近期组织开展的清朗整治AI应用乱专向行动第二阶段工作已取得阶段性成果。截至9月2日，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站应用程序等2400余个。专项行动聚焦利用AI制作发布虚假信息传播暴力低俗内容假冒仿冒他人侵害未成年人权益等突出问题。
专项行动期间一批违法违规账号和应用受到处理。中央网信办通报了部分典型案例，包括利用AI魔改经典生成数字泔水AI制作发布虚假不实信息AI假冒仿冒他人制作发布暴力低俗信息AI侵害未成年人权益利用AI托管从事网络水军活动AI产品服务和应用程序违规等情形。
其中AI魔改经典生成数字泔水引发广泛关注。部分账号使用AI工具对经典影视作品文学名著进行恶意改编生成低俗恶搞内容严重损害原作者声誉和文化产品价值。另有案例显示不法分子利用AI换脸语音合成等技术假冒仿冒他人实施诈骗或传播虚假信息。
AI侵害未成年人权益成为监管重点之一。部分不良应用利用AI生成针对未成年人的有害内容甚至诱导未成年人参与不当互动。网信部门已对此类行为采取严厉处置措施并将持续加强未成年人网络保护。
中央网信办表示下一步将在总结专项行动治理成效的基础上进一步把握人工智能发展趋势和规律密切关注AI生成合成内容新情况新风险及时采取有效措施防范AI技术滥用恶用持续为人工智能创新发展营造良好环境。
综合人民日报新华网法治日报报道 | 2026年9月4日