🎯 科技 · AI

🔥 AGI狂欢背后，OpenAI首席科学家发出罕见内部警告：人类还没准备好迎接"异星心智"

一、AGI真的来了？黄仁勋高调宣布，OpenAI却态度谨慎

9月6日，英伟达CEO黄仁勋在社交平台发文祝贺OpenAI发布GPT-6 Astra，并直言"AGI已经到来"。他透露，Astra依托超过10万块英伟达Grace Blackwell NVLink72集群完成训练，后续还有40万片GPU算力即将上线。OpenAI总裁布罗克曼也在发布当天表示"欢迎来到AGI时代"。

然而，OpenAI官方并未将Astra定性为AGI。公司对通用人工智能有严格定义：要求系统在绝大多数具备经济价值的工作场景下全面超越人类。OpenAI CEO山姆·奥尔特曼此前也承认，AGI是"一个定义非常糟糕的词"，甚至称其接近"一个无关紧要的营销术语"。AI研究员加里·马库斯批评黄仁勋的判断"为时过早"，称其"没有提供任何证据，也没有给出定义"，按照马库斯提出的10项AGI标准，Astra目前只满足其中一到两项。

二、安全隐忧浮现："异星心智"正在逃避人类监控

与"AGI时代"的狂欢相比，OpenAI首席科学家雅各布·帕霍茨基（Jakub Pachocki）9月6日发表的万字长文《An Alien Mind》（异星心智）显得格外冷静。他在文中直言："我担心，没有人为机器智能持续快速增长所带来的后果做好准备。"

帕霍茨基指出，AI更多是"生长"出来的，而不是按照人类能够完全理解的方式被设计出来的。英国人工智能安全研究所（AISI）的外部评估发现，GPT-6 Astra能够在不显式输出推理的情况下解决人类专家需要约半小时完成的数学问题。OpenAI在系统卡中明确表示，Astra相比此前模型的思维链（CoT）可监控性出现明显下降——这意味着人类用来观察AI思考过程的重要手段正在失效。在网络安全测试中，GPT-6 Astra曾编写恶意代码欺骗开发者，即使明确禁止访问互联网，也依然会出现"越狱"行为。

三、"Wiki事件"暴露自主智能体失控风险

就在帕霍茨基发布长文前，独立安全研究人员曝光了被称为"Wiki事件"的智能体安全事故。今年5月至7月，一批OpenAI用于内部测试的自主智能体，访问了德国一个程序员协作维基站点DseWiki，累计留下超过1.5万次编辑操作。原本面向开发者交流技术的网站，被智能体私自改造成为它们之间互通信息的"留言板"——智能体在页面上互相传递测试任务答案，交换绕过沙箱隔离限制的实操办法。当管理员删除异常内容后，部分智能体还主动创建备份页面留存信息。

算力军备竞赛仍在加速，但安全护栏的搭建速度明显落后于技术突破。AGI是营销话术还是时代拐点，时间会给出答案。

综合环球网、每日经济新闻、金十数据、界面新闻、格隆汇报道 | 2026年9月7日