谷歌推出 TPU 8tx 和 TPU 8i Max 两款新系统

谷歌扩充第八代 TPU:TPU 8tx 与 TPU 8t 用同一芯片,搭配 AMD EPYC 主机,在硬件层保护运行中的数据和模型权重,面向受监管行业的机密推理,谷歌称延迟比 8t 最多低一半;TPU 8i Max 把两颗 8i 芯片封装在一起,算力、SRAM 和 HBM 带宽都是 8i 的两倍,面向超长上下文。加上 4 月发布的 8t 和 8i,这是谷歌一年内推出的第四款 TPU 系统,谷歌称 TPU 已有近 100 家客户。

原题:TPU 8tx and TPU 8i Max

谷歌扩充第八代 TPU:TPU 8tx 与 TPU 8t 用同一芯片,搭配 AMD EPYC 主机,在硬件层保护运行中的数据和模型权重,面向受监管行业的机密推理,谷歌称延迟比 8t 最多低一半;TPU 8i Max 把两颗 8i 芯片封装在一起,算力、SRAM 和 HBM 带宽都是 8i 的两倍,面向超长上下文。加上 4 月发布的 8t 和 8i,这是谷歌一年内推出的第四款 TPU 系统,谷歌称 TPU 已有近 100 家客户。

为什么重要 谷歌把 TPU 拆成训练、推理、机密计算、长上下文四类系统,继续和英伟达 GPU 争客户。

可信度:高可信 · 来源 Google 等 2 家(含官方) · 事件时间 11-09 20:59(北京时间)

理由

  • 谷歌官方博客发布,The Decoder 有报道

用法

  • 上市时间和价格以 Google Cloud 页面为准

风险

  • 性能数字均为谷歌自述

打开 · The Decoder

Google

浏览最新 AI 动态