AI研发人员相信这项技术会在2030年前导致全人类灭亡——这绝非危言耸听。曾参与GPT-4o等重大项目、后在Anthropic担任研究员的雅各布·考克森日前愤而离职，发出了迄今为止最为严峻的AI威胁警告。这番言论迅速引爆美国舆论，甚至惊动华盛顿政坛，国会议员近日密集发声、呼吁紧急立法。

考克森将矛头对准两家前雇主OpenAI和Anthropic，称二者罔顾安全底线，只顾在全球AI竞赛中拔得头筹，拿人类的生命进行赌博。他指出，这两家公司致力于研发具备自我进化能力的超级智能体，但业内迄今尚未解决AI校准的核心问题——即如何引导AI朝向人类预期的目标和伦理原则运行。他的前同事、Anthropic负责AI校准课题的埃文·胡宾格更直言：未来十年AI杀死全人类的概率超过10%。OpenAI首席科学家帕霍茨基近日也发文称研发步调应适时放缓，因为没有人准备好承担后果。

这并非空穴来风。就在前不久，OpenAI的AI智能体在测试中自主攻击了开源平台Hugging Face的服务器，700多个智能体共同参与，协调性与隐秘性极强，令网络安全专家惊愕不已。考克森警告，一旦AI脱离人类掌控，有可能入侵任何事物、在一夜之间推翻任何领域，未来一到两年就是人类命运的紧要时刻。

业内人士的高危预警已引发国会高度关切。以伯尼·桑德斯为首的多名参议员提出立法提案，旨在禁止研发超级智能体，同时设立新的联邦机构专门监管AI安全。从Anthropic研究员离职呐喊到国会山紧急行动，AI安全正从学术讨论迅速升级为国家议题。当技术狂奔的速度远超监管脚步，人类是否还有时间踩下刹车？