🎯 科技 · AI基础设施
🔥 推理收入已超训练,英伟达联手Equinix补齐企业AI推理最后一环
9月3日,全球最大数据中心托管商Equinix宣布联合英伟达、开源模型推理平台Together AI推出分布式AI推理服务Equinix Inference Exchange,计划于2027年一季度正式上线。该服务主要面向三大需求:让推理更贴近用户与数据以降低时延、帮助企业从封闭模型迁移到开源模型以控制成本、在受监管行业中将模型运行在指定地区的机房内以满足数据不出境要求。
三方分工明确:Equinix负责底层数据中心托管,其在全球77个都市区运营超过280个数据中心,拥有逾230个云接入点,超过1.05万家企业在其平台上互联;英伟达居中提供算力与技术底座,输出企业级参考架构和GPU硬件;Together AI在最上层运行推理平台,支持超过200个开源模型,提供多租户共享与单租户独享两种形态。
这一合作标志着英伟达从训练侧向推理侧的全面延伸。据英伟达投资者会议透露,约18个月前训练与推理收入大致各占一半,如今推理收入已超过训练且差距持续扩大。麦肯锡2026年2月测算显示智能体AI的拐点已至,智能体在推理、规划与解决问题的每一步都在生成token,随着部署到更多工作流算力需求随之放大。黄仁勋在财报中明确称搭载NVLink的Grace Blackwell是当前推理领域的领先平台,可将单token成本降低一个数量级。
据华尔街见闻报道,新兴云服务商贡献的AI计算基础设施收入已超过50%,增长动力正从传统超大规模云厂商向更广泛的AI算力生态扩散。推理已成主力,英伟达补上最后一环,企业AI应用的普及指日可待。
综合财联社、华尔街见闻、科创板日报报道