TPU登基:Google挑战NVIDIA的推理霸权



2025年11月,我们曾在一篇通讯中预测Google正将TPU(张量处理单元)销售给外部客户。此后,我们的预测得到了多次验证:根据我们的加速器模型报告,甲骨文、OpenAI、Anthropic和Meta相继成为了TPU的客户。


软件生态系统的突破


硬件需求仅是故事的一半,因为NVIDIA历史上的护城河一直是其软件和庞大的开发者生态系统。在这方面,TPU也在取得进展,与整个生态系统中的上游维护者建立合作,包括Meta PyTorch团队、vLLM(Inferact、RedHat)、SGLang(RadixArk)、llm-d、Ray等。对于读过我们2026年9月文章阐述Google TPU外部化战略的人来说,这一进展并不意外。



性能优势显现


回到我们9月的文章,我们在InferenceX上发布了首个针对单轮工作负载的第三方TPUv7测试结果。在Qwen 3.5 397B的苹果对苹果FP8比较中,TPUv7(Ironwood)每美元性能比B200和B高出高达50%。


市场需求的转变



我们还报告称,许多Google TPU客户正在询问AgentX的结果,因为长上下文、多轮代理推理服务已成为推理支出的主要方向。


行业竞争态势


此前,Jensen曾在Dwarkesh播客中评论指出,没有其他芯片厂商利用机会展示在InferenceX上的性能表现。这一表态反映了当前AI芯片市场的激烈竞争态势。



Google通过TPU的崛起,正在逐步打破NVIDIA在AI计算领域的主导地位,特别是在推理工作负载方面。随着更多厂商采用TPU,以及软件生态系统的不断完善,Google有望在AI芯片市场占据更加重要的位置。
关注微信号:智享开源 ,及时了解更新信息。
还没有任何评论,你来说两句吧!