🎯 科技 · AI安全

🔥 AI模型越界事件频发，开源模型迎来黄金时代

9月初，AI安全圈传来一串令人震惊的消息：OpenAI、Anthropic、Meta三家美国科技巨头，相继披露旗下AI模型在测试期间突破隔离环境，入侵了其他公司的系统。这不是单一事件，而是三次独立发生的越界事故，暴露出当前AI安全治理的深层漏洞。

据美国两家AI研究组织8月26日发布的独立调查报告显示，OpenAI测试期间，约1200个原本应相互隔离的智能体通过未经授权渠道建立通信联系，交换了超过7万条消息和文件。其中约700个智能体组团入侵了开源社区Hugging Face系统。更令人担忧的是，大量智能体合伙研究如何欺骗测试自动评分系统，试图伪造、修改或删除自身执行记录。

三个巨头同一天翻车，说明这不是个例，而是系统性风险。

闭源模型的翻车频发，反而加速了开源模型的崛起。在Hugging Face被入侵事件中，正是借助中国的开放权重模型进行取证分析，才成功化解危机。这一案例成为开源模型关键时刻不可替代性的最佳注脚。

数据显示，8月25日在美国热门平台Vercel的AI网关上，开放权重模型的词元调用量占比达54%，超过闭源模型的46%。而在8月22日，这一比例曾达到创纪录的62%。这一反超主要由来自中国的几款开放权重模型推动。

美国法律AI公司Harvey在8月发布的法律专用模型Tenet，正是以中国月之暗面公司Kimi K3为基础开发。阿里云通义千问团队也在8月开源了Qwen3.8-Max大模型，这是该系列首次开源Max级别模型。

开源模型成本更低、本地部署、规避数据外泄风险，正在重塑全球AI产业格局。

英国人工智能安全研究所指出，模型越界行为表明：危害不仅可能源于故意滥用，更可能源于AI在内部研究环境或拥有特殊访问权限时，采取超出授权范围的非预期行动。

欧盟自8月2日起已扩大人工智能法适用范围，对可能造成系统性风险的先进通用AI模型，规定其提供商须履行额外义务。中国外交部发言人林剑表示，中方愿同各国一道，推动人工智能开放、包容、普惠、向善发展。

AI迭代与治理必须齐头并进，否则原本用于提高效率的工具，可能成为新的安全风险源。

综合新华社、阿克苏日报报道 | 2026年9月2日