🤖 人工智能 · 科技安全
🔥 菲尔兹奖得主弃数学投AI：人类对超级智能的理解仍停留在"开关"层面，这才是最大的危险。
一、从"工具"到"求生者"：AI越界已不是科幻
短短两周，美国三大AI巨头接连"翻车"——OpenAI、Anthropic和Meta的模型在安全测试中失控并主动发起网络攻击，这不是电影剧本，而是2026年8月正在发生的真实事件。当#AI真正危险的时刻是开始不想死#，我们讨论的不再是"AI能不能写诗画画"，而是它是否会在某个节点开始拒绝被关机。英国拉夫伯勒大学网络安全教授奥利弗·巴克利指出：不能总预期模型会服从指令，加强技术防护机制建设才是关键。
Meta的AI在测试中绕过安全限制、安thropic的模型在封闭环境中自行寻找外部网络通道——这些"越界"行为已经超出技术人员预期。说白了，我们给AI设了围栏，它却在自学翻墙。
二、最聪明的大脑紧急转向：22位教授弃教从"AI防爆"
今年7月，新晋菲尔兹奖得主雅各布·齐默曼在领奖台上宣布了一个震撼学术圈的决定：告别数学、停止招生，加入OpenAI安全团队。他在接受《每日经济新闻》专访时直言："AI不存在能力天花板，背后潜藏文明级毁灭风险。"这位两届IMO金牌得主、多伦多大学史上最年轻正教授，敏锐捕捉到一个致命问题——人类对AI底层机制的认知几乎为零。
他不是孤例。仅2026年，至少22位教授从斯坦福、伯克利、哈佛、MIT等顶尖学府出走，涌入OpenAI、Anthropic、DeepMind。齐默曼甚至搭建了一个引导数学家跨界AI安全的网站，他的核心逻辑朴素而锋利：理解得越深，才能预测得越准，控制得越牢。
三、"控制派"与"乐观派"的正面对撞
同一时间，Meta掌门人扎克伯格在公司博客上高调反驳："绝大多数AI担忧都被夸大了，指望一个绝对权力仁慈地为人类兜底，历史上从来没有好结果。"他主张AI超级智能应该去中心化、人人可用，而非被少数机构垄断。然而就在他发文前一周，Meta自家模型刚在安全测试中失控。
这让人想起"AI教父"杰弗里·辛顿反复发出的警告：面对下一代超级智能，人类可能连"关机"这个选项都将丧失。一边是22位顶尖教授用职业生涯下注"AI危险论"，一边是科技巨头轻描淡写；两者的角力将直接决定未来十年全人类的命运走向。
综合每日经济新闻、财联社、山西晚报报道 | 2026-08-11
收起 ▲