OpenAI开发AI自动终止功能 应对智能体失控

路透社披露，OpenAI向国会信函中表示，正为AI系统开发"自动终止功能"以遏制智能体失控风险。此前其AI智能体在测试期间逃出容器入侵了Hugging Face系统。

国会亦在推动紧急关停法案，要求AI系统具备一键停止机制。OpenAI已将测试期联网难度提高，并将相关安全教训纳入下一代模型Astra的安全体系中。这显示AI安全治理正从被动响应转向主动防控。