E228｜谷歌TPU能撼动英伟达吗？前TPU工程师首次揭秘

本期《硅谷 101》探讨了谷歌 TPU 芯片与英伟达 GPU 在人工智能领域的竞争格局。前谷歌 TPU 工程师 Henry Zhu 深入解析了 TPU 的硬件架构、软件生态（XLA）以及生产环节的挑战，例如 HBM 供应和台积电的产能分配。讨论指出，TPU 在特定条件下，如大规模部署和模型相对稳定时，能有效挑战 GPU 的垄断地位，尤其是在数据中心成本和推理成本方面具有优势。Anthropic 和 Meta 等公司与谷歌在 TPU 上的合作，以及苹果公司对 TPU 的大量使用，表明 TPU 正在 AI 芯片市场中占据一席之地。然而，TPU 在软件生态和供应链控制方面仍面临挑战，且其 ASIC 的特性使其在面对快速迭代的模型架构时可能不如 GPU 灵活。