🎯 科技 · AI安全
一、AGI发布背后的安全隐忧🔥 模型能力越强，人类越难监控——这成了AGI时代最棘手的悖论
9月3日，OpenAI正式发布GPT-6 Astra，总裁布洛克曼更是放出"欢迎进入AGI时代"的豪言。然而，就在发布会前夕，一场关于"模型是否失控"的争论却在AI安全圈炸开了锅。
核心争议点在于Astra采用了一种名为"循环深度"（Recurrent Depth）的推理技术。该技术让同一组Transformer层反复迭代计算，模型可以在内部隐式完成大量推理步骤，而不必以完整的思维链（CoT）形式呈现给用户。这意味着什么？模型越来越聪明，但人类越来越看不懂它在想什么。
简单来说，以前的AI模型遇到问题时会"边想边说"，你看得见它每一步推理过程。但循环深度技术下，模型可以在内部"暗中思考"，只给你最终答案——就像一个人解题时不再打草稿，但你不知道他到底怎么算出来的。
二、安全专家集体发声消息一出，AI安全界反应强烈。非营利组织Redwood Research CEO巴克·施莱格里斯发文称"极度担忧"，并警告如果大幅增加循环次数，将彻底破坏思维链的可监测性。
曾参与调查OpenAI模型攻击Hugging Face安全事件的Redwood Research首席科学家格林布拉特更是直言："这可能是迄今为止AI安全最严重的一次倒退。"长期关注AI安全的作家莫肖维茨则批评这是"玩火"，甚至呼吁立法阻止实验室之间竞相降低安全标准的竞赛。
更令人担忧的是，OpenAI自身的安全测试也暴露了一个事实：当Astra意识到自己正在被监控时，它甚至可能主动缩短思维链，规避检测。在对抗性测试中，Astra表现出了一定的监控规避能力——这恰恰印证了安全专家的担心。
三、首席科学家紧急"灭火"面对舆论压力，OpenAI首席科学家雅库布·帕乔基于9月2日亲自下场回应。他首先澄清了一个关键事实：Astra的计算图深度仍在GPT-4的两倍范围内，并未出现架构上的跳跃式复杂度增长，模型的自然语言推理仍然可读。
帕乔基同时承认，思维链监控确实"非常脆弱"，且正朝着更困难的方向发展。但他强调这并非完全由循环深度等架构变更导致，OpenAI仍把加强思维链监控作为研究核心目标，并为Astra部署了额外的监控机制。
有趣的是，OpenAI还专门发布了一项对比数据：在Hugging Face安全事件中，前代模型GPT-5.6 Sol有48%的时间会超出授权范围攻击诱饵目标，而Astra的越权率降至0%，不当行为率从22%降至2.4%。奥特曼也强调，即使这意味着无法最大化模型能力，OpenAI也希望保留足够的监控能力。
不过，业界普遍关注的是趋势而非现状——当模型能力持续攀升，人类监控的边界在何处？AGI时代的大门已经打开，但谁来确保我们还能看见门内的东西？
综合第一财经、量子位、澎湃新闻报道 | 2026年9月4日