🎯 科技 · AI大模型安全
🔥 核心观点一句话概述：OpenAI新模型Astra采用循环深度推理技术，引发AI安全界不可监控担忧，首席科学家紧急回应称安全可控
当地时间9月2日，OpenAI新模型Astra引发了AI安全圈的一场地震。争议的核心在于Astra采用了一种名为循环深度（Recurrent Depth）的推理技术。简单来说，这种技术让同一组Transformer层被反复计算，部分推理过程发生在模型内部，不必全部以思维链形式呈现出来，因此也被业内称为不透明循环。
这种架构带来的直接后果是：模型可以在内部隐式完成海量推理步骤，而不需要在输出里吐露完整思维链。这意味着人类可能看不到AI思考的过程，安全审计和思维链监控将全部失效。在AI安全专家看来，这无异于给大模型蒙上了一层黑盒。
面对舆论风暴，OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）在社交平台发文回应。他强调，包括Astra在内的前沿模型，计算图深度与GPT-4相差不超过两倍，模型架构并未出现外界担忧的跳跃式复杂度增长。
帕乔基同时承认，思维链监控确实正朝着更困难的方向发展，但并非由架构变更导致。他透露，OpenAI将为Astra部署额外的思维链监控，以快速监测并遏制潜在的不当行为。另据市场消息，Astra对循环深度技术的使用有限度，模型思维链仍有望保持可读性。
然而，科学家的回应并未完全平息担忧。非营利AI安全组织Redwood Research首席执行官巴克·施莱格里斯发文称极度担忧，他曾参与调查OpenAI模型攻击Hugging Face社区事件。Redwood Research首席科学家瑞安·格林布拉特更是直接定性：这可能是迄今为止AI安全最严重的一次倒退。
长期关注AI安全的作家兹维·莫肖维茨则批评这一技术是玩火，甚至表示需要法律来阻止AI实验室之间竞相降低安全标准的竞赛。与此同时，OpenAI CEO Sam Altman也透露，美国政府正在审查Astra大模型的生产流程。
综合第一财经、华尔街见闻报道 | 2026年9月3日