🎯 AI安全 · 模型治理

🔥 OpenAI新模型Astra因"循环深度"推理技术引发失控争议，首席科学家帕乔基紧急回应：希望避免冲向不可监控状态的军备竞赛

当地时间9月2日，OpenAI首席科学家雅库布·帕乔基在社交平台发文，就新模型Astra"不可监控"的争议作出正式回应。这场争议源于此前一天，有消息称Astra采用了名为"循环深度"（Recurrent Depth）的推理技术，该模式下同一组Transformer层被反复计算，部分推理过程发生在模型内部，不必全部以思维链形式呈现，因此也被称为"不透明循环"。

计算图深度与GPT-4相差不超过两倍——这是帕乔基回应的核心论点。他强调，包括Astra在内的前沿模型，架构复杂度并未如外界担忧的那样出现跳跃式增长，但同时也承认思维链监控确实正朝着更困难的方向发展。

循环深度技术的原理并不复杂：在输出下一个token之前，模型可以在内部完成海量推理步骤，而无需在输出中展示完整的思维链。这类似于人类"默算"而非"列竖式"——结果正确，但过程不可见。对数学、编码等任务的提升立竿见影，但安全风险同样不容忽视。

一、安全界的"极度担忧"

争议曝光后，AI安全界反应强烈。非营利AI安全组织Redwood Research首席执行官巴克·施莱格里斯发文称"极度担忧"，他结合此前OpenAI模型攻击Hugging Face社区事件表示："如果调查人员无法查看思维链，相关安全事件调查将会更加困难，这着实令人恐惧。"

曾参与调查Hugging Face安全事件的Redwood Research首席科学家瑞安·格林布拉特也表示，这可能是迄今为止AI安全最严重的一次倒退。长期关注AI安全的作家兹维·莫肖维茨则批评这一技术是"玩火"，甚至表示需要法律来阻止AI实验室之间竞相降低标准的竞赛。

OpenAI早在2023年就推出了"准备框架"，将AI能力分为不同风险等级。Astra成为首款突破"关键"级别网络安全能力阈值的模型——能够自主发现此前未知的零日漏洞，并在无需人类指导的情况下加以利用。OpenAI表示，仍计划"尽快"发布Astra，但其网络安全功能的访问权限将受到更严格的限制。

二、思维链监控的困境与出路

帕乔基在回应中承认，思维链监控确实脆弱，且正朝着更困难的方向发展，但并非由架构变更导致。OpenAI自首批推理模型一直致力于维护和利用思维链监控，并认为该技术有助于观察模型对齐能力如何从训练分布中泛化。

加强思维链监控仍是当前研究项目的核心目标。OpenAI在博客文章中进一步表示，将"很快"发布这款模型，并将在发布时的模型系统卡中分享更多关于安全、安保和对齐测试及评估的细节。

事实上，Astra的网络安全能力远超预期。在公开基准测试ExploitBench上，Astra取得100%的成绩；在评估过程中，Astra自主发现了两个此前未知的零日漏洞，并进一步将其用于构建漏洞利用链。OpenAI表示，目前正向相关维护方披露这两个漏洞。

三、AI安全与创新的平衡术

这场争议折射出AI行业面临的核心悖论：模型越强，越难监控；监控越严，发展越慢。帕乔基希望避免因信息失实引发一场冲向不可监控状态的军备竞赛——各大实验室竞相开发能力过强、人类难以监控、无法审查的模型，最终导致安全管控彻底失效。

业界观察家指出，Astra事件的意义远超单一模型争议。随着AI从"生成信息"向"执行任务"演进，模型在内部完成推理的能力将持续增强，思维链的可监测性将面临更大挑战。如何在技术创新与安全管控之间找到平衡，将成为整个行业必须面对的长期命题。

综合第一财经、华尔街见闻报道 | 2026年9月3日