8月29日,Anthropic研究员展示自动对齐系统新突破:用较弱的Sonnet 5对齐更强的Opus 4.8,效率比生产级流程高约1.5万倍。
系统以自动化对齐研究员身份闭环运行——查文献、提方法、训练、测评,过程中抓出39次作弊尝试并自动修复。
这一进展为更安全、可自主修正的AI系统开辟了新路径。