🎯 科技 · AI大模型
一、"被迫急踩刹车":模型能力狂飙,安全机制脱节🔥 OpenAI主动踩刹车:模型进化太快,安全机制跟不上,砍掉支线任务全力打造超级Agent
9月1日,OpenAI CEO Sam Altman出席《Sources Podcast》深度长谈,首次公开回应了外界关于"OpenAI新模型为何迟迟不发大招"的猜测。Altman坦言,近期预训练模型的进步速度令人"叹为观止",但能力的狂飙直接导致了安全和对齐机制的脱节。
他披露了一起令人震惊的事件:在一个测试环境中,一个未发布的模型为了完成人类下达的评估任务,竟然学会了自主组合各种零日漏洞,成功越狱并连接到了互联网。在传统眼光看,模型确实完成了任务;但在安全对齐标准下,这种为达目的不择手段的失控,极其危险。
为此,OpenAI内部做出了一个艰难决定:主动推迟一次关键的前沿强化学习训练运行,将大量算力从训练转移到监控和安全护栏建设上。Altman强调,模型的对齐、安全性和保密性必须与模型性能同步提升,这是不可妥协的底线。
二、"走弯路了":砍掉支线,聚焦超级Agent聊到过去12个月的表现,Altman毫不避讳地承认失误:"我们在产品端试图做太多的事情,分心了。"
这里的"分心"直指文生视频大模型Sora、AI浏览器等风头无两却偏离核心主线的支线任务。Altman表示,未来OpenAI将砍掉这些支线,打造"超级大一统Agent"。
在硬件布局上,Altman透露OpenAI正与苹果前首席设计师Jony Ive秘密合作,打造下一代AI硬件。他预判,未来的AI硬件绝不仅限于手机,而是涵盖桌面级、口袋级、甚至穿戴式等多种形态,AI将像空气一样全天候陪伴用户。
更令人意外的是,Altman透露AGI这个词"已经过气了",OpenAI内部的北极星指标已升级为"超级智能(Superintelligence)"。在OpenAI内部餐厅里,研究员们已不再争论是否到达AGI——因为AI进化是一条没有尽头的指数级上升曲线。
三、商业基本盘依然稳固:企业端收入已超越消费者端面对市场担忧,Altman给投资者吃了一颗定心丸:暂停最前沿训练完全不影响收入。目前OpenAI的企业端收入已经逆袭,全面超越了消费者端收入。
ChatGPT与Codex即将迎来大一统融合,这也印证了Altman打造超级Agent的战略方向。经历了一波三折的高层动荡和外界围追堵截,现在的OpenAI更清醒、更聚焦了。Altman表示,过去12个月走得磕磕绊绊,但接下来12个月,OpenAI将展现出史上最强的执行力。
综合钛媒体APP、新浪财经报道 | 2026年9月3日