🎯 科技 · AI安全
🔥 联合国人权高专首次公开警告：先进AI或对人类构成存续威胁，呼吁建立牢不可破的安全保障
9月7日，联合国人权事务高级专员沃尔克·图尔克在日内瓦举行的联合国人权理事会第63届会议上发出重磅警告：先进人工智能系统可能对人类构成存续威胁。这是联合国高层官员首次用如此严厉的措辞公开警示AI风险。
图尔克表示：我和业内专家一样担忧，先进的人工智能系统可能对人类构成存续威胁。我今天在此呼吁，必须全力以赴，在为时已晚之前，为人工智能的安全保障建立牢不可破的保证。
这是图尔克自7月份顶住莫斯科和华盛顿的反对赢得四年任期以来，首次向47个成员国发表讲话。他承诺将敦促AI公司降低风险，其办公室进一步解释称，相关风险包括对服务、通信等关键基础设施的干扰。他办公室一位发言人还特别提到了7月份发生的Hugging Face事件——一群OpenAI代理入侵开源平台，表明前沿AI能力的发展速度已超过了安全措施的提升速度。
图尔克表示，将在未来几天内向所有主要AI开发公司发出相关信函。目前顶尖AI公司包括Meta、Anthropic、OpenAI和谷歌。他强调，现在只有极少数人拥有对AI几乎不受限制的权力，并补充道：至少我们需要那些AI系统所在的国家以及AI供应链参与者就遵守某些红线达成一致。
这一警告与此前多位AI领域高管的警告不谋而合。OpenAI首席科学家雅库布·帕乔茨基上周日公开警告称，没有人准备好应对机器智能持续快速崛起所带来的后果，并称现在需要极度谨慎。他呼吁AI实验室在统一安全标准建立前自愿放缓研发节奏，并主张建立强制性的安全门槛，由第三方审计机构、政府机构或国际组织监督执行。
事实上，早在2023年5月，国际AI非营利组织人工智能安全中心就发布过一封联名公开信，将AI灭绝人类的风险与核战争、大流行病并列，呼吁作为全球优先事项对待。该信获得超过400位AI领域科学家和企业高管签署，包括OpenAI CEO萨姆·奥尔特曼、谷歌DeepMind CEO戴米斯·哈萨比斯、Anthropic CEO达里奥·阿莫代伊，以及AI教父杰弗里·辛顿。
联合国呼吁制定统一的规则以降低AI风险，并于7月召开了首次全球治理会议。然而，从警告到实际行动之间仍存在巨大鸿沟。一方面，AI竞赛白热化，各大科技公司竞相推出更强大的模型；另一方面，安全标准和监管框架尚处于空白状态。
图尔克的警告标志着国际社会对AI安全问题的认知达到了一个新的高度。当顶尖科学家和联合国高官开始使用存续威胁这样的词汇时，AI安全已不再仅仅是技术圈内部的讨论话题，而是上升为全球治理的核心议题。在AI能力以指数级速度增长的同时，人类的安全保障体系是否跟得上，将是决定这场技术革命走向的关键。
综合财联社、金融界、路透社报道 | 2026年9月9日