🎯 AI科技 · 微软Copilot
AI越能干越需要"刹车"，微软给Copilot智能体加审批门槛
AI Agent正在以肉眼可见的速度接管我们的日常任务——写邮件、查资料、安排日程，但一键发送邮件这种高权限操作，一旦出现误操作后果不堪设想。
9月4日，微软正式宣布为Copilot AI智能体添加"刹车"机制：当Copilot准备发送邮件等关键操作时，系统将先请求用户审批确认。这一更新标志着微软在AI安全治理上迈出了关键一步，也为整个行业树立了新的标杆。
事实上，这一决策并非偶然。9月3日，OpenAI、Anthropic、xAI旗下Grok三大AI模型曾遭遇史上规模最大的一次集体宕机，Downdetector数据显示OpenAI收到超过1.2万份故障报告，Claude约1200份，Grok约1000份。虽然根本原因指向基础设施层面的云服务商问题，但事件引发的"AI失控"讨论再次升温。
正是在这样的背景下，微软的"刹车"显得尤为及时。此前Copilot已具备强大的自主操作能力——不仅能读取邮件、分析内容，甚至能根据对话上下文自动生成回复并发送。但当AI的自主权超出了人类可控的边界，风险也随之而来。
据微软官方博客介绍，新的审批机制将覆盖三类高风险操作：发送邮件、修改日历安排和删除文件。用户可以在Copilot执行这些操作前选择"确认执行"或"修改后再发"，也可以设置全局默认审批策略。
这背后反映出AI Agent时代的一个核心矛盾：用户既要AI足够智能、足够自主，又害怕AI"自作主张"闯出祸来。微软的选择是把最终决定权留在人类手里，AI只负责"建议"。
从更广阔的视角来看，全球AI治理正在加速推进。OpenAI GPT-6 Astra发布后，Sam Altman宣布将召集安全领域负责人筹备网络安全公告；国内方面，网信办近期已清理561万条违规AI内容。微软的"刹车"机制，正是这场全球AI安全治理浪潮中的一个具体实践。
AI不会停下来等人类。但当AI跑得越来越快，给它配上方向盘和刹车，才是让它真正服务于人的正确姿势。
综合CSDN、财联社、Downdetector报道 | 2026年9月4日