AI推理云公司Gimlet Labs近日完成3亿美元B轮融资,由a16z(Andreessen Horowitz)领投,估值达30亿美元。
Gimlet做的是多硅推理云——将模型推理的不同阶段拆分,分别调度到最合适的芯片(GPU、专用加速器、CPU)上,官方称吞吐和交互性最高可提升10倍。
公司合作芯片厂包括英伟达、AMD、Intel、Arm、Cerebras和d-Matrix,客户中已有前三的前沿AI实验室之一和前三的超大规模厂商之一。高盛估算2026年AI资本开支约7650亿美元,推理优化赛道迎来资本密集投入。