🎯 科技 · AI安全

微软为Copilot AI智能体加装"人工刹车"，AI再也不能擅自发邮件付款

一、AI智能体"失控"风险引发关注

9月3日，科技媒体NeoWin独家披露，微软计划从9月开始向企业客户推送Copilot Studio的重大调整：AI智能体在调用邮件、工单、支付等工具前，必须经过人工审批才能执行。这一消息迅速引发科技圈关注，被视为微软在AI企业化落地过程中迈出的关键安全一步。

Copilot Studio是微软用于搭建和管理AI智能体的核心平台，已连接Outlook邮件、ServiceNow工单系统、Stripe支付等关键业务工具。截至2026年上半年，全球超47%的中大型企业已在Copilot Studio中部署AI智能体，其中近三成接入了核心业务系统。

风险案例屡见不鲜：某跨国快消公司AI客服曾误判客户投诉等级，自动向127名区域总监群发道歉邮件并附赠50美元优惠券，导致营销预算一夜蒸发；另一家SaaS服务商的AI运维智能体在未核验权限的情况下直接关闭了3个高优故障工单，致使客户系统停摆93分钟。这些血泪教训让企业客户对AI自主执行能力产生了深深的顾虑。

二、"审批即主权"：三类场景强制人工把关

微软在官方介绍中明确列举了三类需要人工审批的适用场景：发送电子邮件、关闭工单、处理付款。这些动作一旦配置审批开关，AI智能体将自动暂停执行，并弹出清晰的审批卡片，向用户说明智能体的意图——谁要干、干什么、为什么干——用户需一键确认放行、批量放行本会话或直接拒绝。

更重要的是，这项审批策略并非一刀切式管控。开发者可以针对每个AI智能体和每项集成工具独立开启"审批拦截"模式，支持按角色分级（如仅主管可批付款）、按上下文动态启用（如金额超过5000美元自动锁死），甚至支持审批留痕和审计追踪闭环。

可替代重复劳动，但不可替代责任判断；可加速流程，但不可绕过权责归属。这不仅是微软对AI治理最务实的一次落子，也标志着AI从"自动挡"迈向"智驾+人工接管"时代的分水岭正式到来。

三、AI治理进入"深水区"

业内分析人士指出，微软此举与全球AI治理趋势高度契合。此前，美国两党议员已提出《停止失控AI法案》，要求NIST制定AI智能体安全标准。欧盟《AI法案》也明确要求高风险AI系统必须具备人类监督机制。

从技术层面看，Copilot Studio的审批机制本质上是给AI智能体套上了"保险丝"——在关键操作节点强制插入人工确认环节，既保留了AI的执行效率，又守住了人类最终决策权。随着更多企业将AI接入核心业务系统，这类"刹车"机制将成为标配。

AI跑得越快，刹车就越重要。当智能体能够从"执行者"进化为"决策者"，人类能否始终握有最终否决权，将成为衡量AI应用成熟度的关键标尺。

综合IT之家、NeoWin报道 | 2026年9月4日