AT&T将40%员工AI流量切向开源模型 成本降56%

AT&T正将40%的员工AI请求路由至Llama等开源模型，目标几年内提升至60%-70%，以大幅压降成本。其内部工具日处理450亿token，简单任务交由开源模型，复杂任务仍用Claude与GPT。

AT&T首席数据AI官Andy Markus表示，开源模型的能力通常比最前沿闭源模型落后6-10个月，但差距正在收窄。编码成本下降56%，质量仅微降2%。

AT&T使用的开源模型包括英伟达Nemotron、Meta Llama和Google Gemma等。Markus称"我们 saving up to 80% on AI costs compared with earlier this year"。

这一趋势在OpenRouter数据中得到验证：开源模型占AI工作负载比例从一年前的10%升至58%，AT&T、Airbnb、Deloitte等企业领先。中国开源模型DeepSeek、Moonshot AI、Alibaba以20%的价格提供80%-90%的闭源模型能力，成为企业热门选择。

来源：AI Weekly / Inside AI News