谷歌宣布新一代 Trillium TPU:性能提升 4.7 倍、节能 67%
来源:IT之家
谷歌公司在今天召开的 I / O 2024 开发者大会上, 宣布了第六代数据中心 AI 芯片 Tensor 处理器单元(TPU)--Trillium,并表示将于今年晚些时候推出交付。
谷歌首席执行官桑达尔皮查伊(Sundar Pichai)表示:" 谷歌就是为这一刻而生的。十多年来,我们一直是 GPU 的先驱。"
皮查伊表示新款 TPU 交付之后,每块芯片的计算性能将比第五代提升 4.7 倍。谷歌是通过扩大芯片的矩阵乘法单元(MXU)和提高整体时钟速度来实现这一目标的。此外,谷歌还将 Trillium 芯片的内存带宽提高了一倍。
Trillium 采用了第三代 SparseCore,谷歌将其描述为 " 在高级排名和推荐工作负载中,处理常见大规模任务的专用加速器 "。该公司认为,这可以让 Trillium TPU 更快地训练模型,并以更低的延迟为模型提供服务。
皮查伊还将新芯片描述为谷歌迄今为止 " 最节能 " 的 TPU,这一点在人工智能芯片需求持续成倍增长的情况下尤为重要。
IT 之家翻译皮查伊部分内容如下:" 在过去六年中,行业对 ML 计算的需求增长了 100 万倍,大约每年增长 10 倍。如果不 投资 降低这些芯片的功耗需求,这种情况将难以为继。谷歌承诺,新的 TPU 比第五代芯片节能 67%"。