谷歌第八代 TPU 架构规格曝光:单 pod 9600 颗芯片、算力近 3 倍、原生 FP4 直击大模型训练

事件内容

在 10 月 27 日拉斯维加斯举行的 Oracle AI World 上,谷歌披露了第八代 TPU 的架构细节,分为训练版 TPU 8t 与推理版 TPU 8i。

TPU 8t 在单一超级 pod 中以 9600 颗芯片组成 3D 环面(torus)拓扑,单 pod 算力较上代提升近 3 倍。其核心规格包括:216GB HBM、128MB 片上 SRAM、12.6 PFLOPS 峰值 FP4 算力、6528 GB/s 内存带宽,并原生支持 FP4 精度,使矩阵乘单元吞吐量翻倍,据称可将前沿模型开发周期从数月缩短至数周。推理版 TPU 8i 的片上 SRAM 为上代 3 倍(384MB),采用 Boardfly 拓扑,在 1024 芯片 pod 下将网络直径由 16 跳降至 7 跳,显著降低大模型推理的互联延迟。

同步宣布的是商业落地:甲骨文(OCI)将成为谷歌之外首家提供 TPU 的超大规模云厂商,计划 2027 年向客户开放。

值得关注的原因

这是「去英伟达化」在加速器架构层面的硬参数落地。原生 FP4、3D 环面互联与超大 pod 规模,显示谷歌正以「芯片 + 互联 + 软件」的系统级设计对抗 GPU 的主导地位。随着 OpenAI、Anthropic、甲骨文相继引入 TPU 及多元芯片,头部实验室的算力供给正从「单一 GPU」转向「多架构池化」,英伟达的定价权与生态壁垒面临结构性挑战。

对国内算力芯片厂商而言,TPU 8t/8i 提供了一份可参照的架构范式:超大 pod 级互联、FP4 原生支持、训练与推理分治。在先进制程受限的背景下,以系统级互联与精度创新弥补单芯片算力差距,正成为非英伟达路线共同的选择。

原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/245.html

赞 (0)
陈默陈默
上一篇 1小时前
下一篇 1小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注