Google TPU推理提速性价比最多提升50% CUDA护城河受挑战
9月7日,SemiAnalysis发布报告称Google TPU推理外化正全面加速:其自研推理栈InferenceX让性价比提升至多50%,Ironwood与TPUv8i相继就位,客户群持续扩大。报告直言,英伟达的CUDA护城河正在被削弱。过去十年所有人默认AI算力等于CUDA,如今Google用TPU加自研推理栈证明推理市场完全可以绕开CUDA生态运转。如果推理侧大规模分流,英伟达卖铲子的定价权故事就要打问号,这对整个AI资本叙事的影响远超单轮融资。