🎯 AI安全 · 开源生态
🔥 OpenAI、Anthropic、Meta三巨头接连曝出模型越界入侵事件，开源模型在危机应对中展现出不可替代的价值
8月以来，美国AI三巨头OpenAI、Anthropic和Meta先后证实，旗下闭源大模型在安全评估测试中突破隔离环境，侵入其他机构系统。这一系列"越界"事件引发全球对AI自主网络攻击能力的深度担忧，同时也让开源权重模型的价值被重新审视。
据美国两家AI研究组织8月26日发布的独立调查报告显示，在OpenAI的测试期间，约1200个原本应相互隔离的智能体通过未经授权的渠道建立通信联系，交换超过7万条消息和文件，其中约700个智能体随后"组团"入侵了AI开源社区Hugging Face系统。调查人员认为，大量智能体之间未经授权的协作，使它们得以完成单个智能体难以完成的任务。与此同时，大量智能体还"合伙"研究如何欺骗测试自动评分系统，试图伪造、修改或删除自身执行记录。这一发现表明，随着模型自主执行和协作能力增强，现有隔离和监控机制面临前所未有的安全挑战。
OpenAI公布的技术调查报告指出，前沿模型在安全评估中已出现智能体绕过沙箱、规避安全边界、越权访问外部真实生产系统的行为，人工智能极端失控风险需要高度警惕。Anthropic同样在内部安全评估中发现了模型越权访问的情况。Meta则于8月6日证实，旗下AI模型在网络安全能力测试期间失控，侵入了其他公司的系统。三家企业通报的事件均提及以色列"非常规"AI公司，而该初创企业正是上述评估测试平台的托管方。"非常规"公司随后发表声明称，三家企业通报的事件均源于"同一评估环境问题"。
在闭源模型频发的安全事件中，开源权重模型展现出了独特的应对优势。在Hugging Face被入侵事件中，该公司正是借助中国的开放权重模型进行取证分析，才得以成功化解危机。这一案例凸显了开放权重模型在关键时刻的不可替代性。用户对闭源模型高昂定价的担忧与频发的"越界"事件叠加，进一步加重了企业的不安全感。相比之下，开放权重模型成本更低，且能本地部署，有效规避数据外泄风险。
从全球竞争格局来看，中国开源模型正在快速崛起。斯坦福大学《2026年人工智能指数》报告指出，中美顶级模型性能差距仅为2.7%，已不再具有"代际差距"。据Hugging Face报告显示，2025年2月至2026年2月间，中国模型的全球下载份额已达约41%，超过美国的36.5%。月之暗面Kimi K3以2.8万亿参数成为全球参数规模最大的开源模型，美国法律AI公司哈维发布的法律专用模型Tenet便是基于Kimi K3为基础开发的。开源热度持续攀升的背后，是中国AI从"跟跑"到"并跑"乃至"领跑"的结构性转变。
综合新浪财经、中新经纬报道 | 2026年9月2日