🎯 科技 · AI安全

网络安全之后AI又迎新考题：生物武器风险引发头部厂商集体警惕

一、网络安全之外，生物风险成为AI安全新边疆

继网络安全之后，生物领域正日益成为AI行业另一道要守的安全关口。据财联社9月2日报道，Anthropic、OpenAI以及谷歌旗下AI实验室Google DeepMind，正加大在生物风险测试、访问权限控制及其他保障措施上的投入，以限制先进AI系统被滥用于制造新型病毒或生物武器。

这一动向标志着AI安全治理的边界正在扩展——从传统的网络攻击、虚假信息，延伸到生命科学领域。随着大模型在生物学、化学等领域的能力快速提升，模型被用于设计病原体或合成危险物质的风险已从理论走向现实。头部厂商的集体行动，反映出业界对这一新兴风险的高度共识。

二、Anthropic率先行动：安全护栏分层配置

9月1日，Anthropic发布Fable 5.1旗舰模型时，同步推出了针对不同风险场景的安全配置方案。其发布的Mythos 5.1版本专门针对网络安全和生命科学等高风险领域，以更强的安全护栏限制模型的输出。Anthropic将"能力"与"护栏"做了精准解耦——同一个最强模型，以不同安全配置出现在不同市场。

数据显示，经过优化后，网络安全领域对良性内容的误拦减少了约60%，基础生物学和医学问题的降级率降低了约85%。这一"同一引擎、不同方向盘"的策略，意味着安全治理的成本从"能力层"下移到了"准入层"，企业可以根据自身风险等级灵活选择防护强度。

三、安全成本VS能力竞赛：AI发展的两难命题

然而，安全投入的增加也带来了一个结构性矛盾：当模型能力越强，被滥用的潜在后果就越严重，安全防护的成本也随之水涨船高。OpenAI主动暂停前沿RL训练的决定，正是这一矛盾的最新体现——能力进步速度"令人叹为观止"，但安全对齐的进度却需要时间追赶。

业内分析指出，生物风险防控的本质是对AI能力边界的重新定义：在模型获得更强大的"理解-生成-设计"能力之前，必须建立与之匹配的风险评估和准入机制。随着RSI（递归自我改进）时代的到来，训练从"一次性"变为"永不停止"，安全治理也将面临更严峻的持续挑战。

综合财联社、钛媒体、华尔街见闻报道 | 2026年9月3日