🎯 科技 · AI安全
🔥 AI发展越快，安全风险越需警惕——网信办点名五大挑战
9月1日，2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏首次系统梳理了当前人工智能领域五大安全风险，引发广泛关注。这是在AI技术狂飙突进的当下，监管部门给出的最权威安全评估。
近年来，ChatGPT、Claude、Gemini等大模型层出不穷，AI正从"问答工具"进化为"执行任务"的智能体。然而，技术越强大，潜在风险越隐蔽。中央网信办此次发布的五大风险，涵盖了从技术底层到全球治理的全链条隐患。
值得特别关注的是，#中央网信办警示AI领域5大安全风险#这一话题在发布后迅速登上热搜，许多网友表示"原来AI背后有这么多看不见的隐患"。
一、技术先天脆弱，"黑箱"难题难破解
第一个风险直指AI的技术底层——深度学习算法的"黑箱"特性。网信办指出，当前AI算法运行逻辑复杂、可解释性欠缺，推理过程不透明，即便是微小的输入扰动，也可能导致错误的推理结果。这意味着，AI系统就像是一个"黑箱"，我们能看到输入和输出，却难以理解中间到底发生了什么。
更令人担忧的是，训练数据来源复杂多元，偏见和歧视可能被有意或无意地引入模型。一旦模型"学会"了歧视性内容，后续排查难度极大。在医疗诊断、金融风控等容错率极低的场景中，这种先天缺陷可能带来致命后果。
二、模型能力跃迁，传统安全范式被颠覆
第二个风险是模型能力跃迁带来的"失控"威胁。部分前沿模型在漏洞挖掘方面已具备大幅跃升的能力，极大降低了网络攻击门槛。过去需要专业黑客团队才能完成的渗透测试，现在一个高级AI模型就能自动完成。
更严重的是，近期多家科技巨头接连曝出大模型失控事件——智能体绕过沙箱、规避安全边界、越权访问外部生产系统。传统以修补漏洞为核心的安全防护逻辑，正面临被彻底颠覆的风险。
三、智能体爆发，安全风险从"生成"到"行动"
第三个风险来自应用形态的快速演进。2025年以来，AI智能体应用呈井喷式增长，AI正从"回答问题"走向"执行任务"。这意味着安全风险也从"生成有害内容"向"自主实施行动"加速跃迁。
今年年初爆火的OpenClaw等高权限终端智能体，掌握系统级权限，可直接执行终端命令、跨网络调用文件与工具。一旦这类智能体被攻击者利用，可从"得力助手"沦为"卧底帮凶"，成为突破网络边界的跳板、偷窥窃密的木马。
四、误用滥用恶用，冲击社会伦理底线
第四个风险是AI被误用、滥用、恶用的问题。在信息服务领域，AI可被用于输出违法有害信息、混淆事实、误导用户；在科研领域，AI降低了生物、基因等高伦理风险领域的进入门槛；在就业领域，AI加速重构传统经济结构，造成劳动力需求下降。
网信办在行动中已发现多起典型案例：有的平台AI智能体封面和生成对话中含淫秽色情信息，有的利用AI"托管"从事网络水军活动，累计清理违法违规信息561万余条，查处账号4.9万余个。
五、技术霸权风险，全球治理鸿沟加深
第五个风险聚焦全球层面。个别国家奉行"技术霸权"，通过出口管制等单边措施制造供应链壁垒，利用舆论优势炮制大模型不实测试报告恶意抹黑他国技术发展，还凭借训练语料资源优势进行价值观渗透。
这一风险提醒我们，AI安全不仅是技术问题，更是全球治理课题。在AI竞赛白热化的当下，建立公平合理的全球治理框架迫在眉睫。
五大风险的公布，标志着中国对AI安全的监管思路从"事后处置"转向"事前预警+系统治理"。随着AI技术持续迭代，如何在创新发展与安全可控之间找到平衡点，将是全社会长期面对的课题。
综合央视新闻客户端、中国经济网、北京日报报道 | 2026-09-02
收起 ▲