我们的第八代TPU:为代理时代设计的两款芯片
谷歌在Google Cloud Next大会上推出了第八代定制的Tensor处理单元(TPU),包括TPU 8t和TPU 8i两种架构,分别用于训练和推理。这些芯片旨在支持谷歌自建的超级计算机,推动从前沿模型训练到大规模推理工作负载的各类应用。TPU 8t和TPU 8i是与Google DeepMind合作设计的,能够应对最苛刻的AI工作负载,并适应不断演变的模型架构。TPU的设计标准包括定制数值、液体冷却和定制互连等,经过十多年的发展,第八代TPU在能效和性能上实现了显著提升。这一代TPU的推出标志着AI基础设施的又一次重大进步,为行业和开发者提供了更强大的计算能力。