谷歌发布 TPU 8t/8i AI 芯片：训练算力翻倍，推理延迟更低

谷歌在 Google Cloud Next 大会上推出两款定制 AI ASIC 芯片 TPU 8t 和 TPU 8i，前者针对大规模训练优化，后者聚焦智能体推理工作负载，且两者可兼顾对方优势任务。

TPU 8t 的 Pod 规模从 9216 颗增至 9600 颗，FP4 算力接近翻倍，单芯片横向扩展带宽从 100Gbps 提升至 400Gbps，解决大规模互联瓶颈。TPU 8i 配备 CAE 片上加速引擎、384MB 片上 SRAM 和 288GB 片外 HBM，Pod 规模从 256 颗升至 1152 颗，每 Pod FP8 算力和 HBM 内存分别提升 8.67 倍和 5.74 倍。

两款芯片能效是上一代 TPU Ironwood 的两倍，助力 AI 工作负载更高效运行。