📌 #平台整治AI脸

🎯 科技 · 网络治理

从5.65万篇到15万篇，AI造假治理正在从"事后灭火"转向"事前设防"

近日，#平台整治AI脸#成为科技圈和舆论场的热议焦点。小红书通过官方账号「薯管家」发布《关于热点事件AI造假及AI换脸治理公告》，宣布已开展专项治理行动。数据显示，今年以来小红书针对AI仿冒名人违规行为累计处置笔记5.65万篇、账号1372个；仅在最新一轮热点事件治理中，就处置AI伪造聊天截图及造谣言论笔记38篇、AI换脸视频312个。

公告将五类AI造假行为列为严禁：使用AI合成或替换他人面孔发布内容未获授权且未声明；伪造名人、医生、专家等公众人物形象用于带货引流或散布虚假信息；用AI虚假人脸冒充真人运营账号；捏造人物参与新闻事件进行引流；利用AI换脸实施诈骗或侵犯肖像权、名誉权。

小红书的行动并非孤例。就在发布上述公告的前一天，「薯管家」公示了参与中央网信办"清朗·整治AI应用乱象"专项行动第二阶段成效：共处置违规笔记15万余篇、违规账号1400余个，并列出七类典型案例。

典型案例包括：利用AI生成传播虚假极端天气信息引发民众恐慌；利用AI换脸换声假冒知名公众人物引流带货营销牟利；以及其他多类利用AI技术制造虚假信息的行为。相关内容已全部下架，违规账号予以封禁。

小红书在公告中特别强调了一个关键判断："用AI造一张截图的成本极低，但它进入舆论场后所消耗的公共信任，需要很多人花很长时间才能修复"。

这句话道出了AI造假治理的核心困境——造假成本与信任修复成本之间的巨大不对称。过去，辨别一条谣言，人们习惯先问"有没有截图"、"有没有视频"。现在，截图和视频本身也可以是AI伪造的。当技术让"有图有真相"不再可靠，重建社会信任的成本将呈指数级上升。

小红书为此上线了新增治理策略，对违规行为采取梯度式处置：风险提示、限制分发、笔记下架、账号限流、封禁账号，涉嫌违法的移交相关部门。平台同时呼吁用户在热点事件中不要转发来源不明、未经核实的截图与"内幕"。

AI治理是一场持久战，每一次平台的主动出手，都是为社会的真实防线添砖加瓦。

综合都市快报橙柿互动、黄河新闻网大同报道 | 2026年8月29日