solidot新版网站常见问题,请点击这里查看。

Google 宣布新一代 AI 芯片 TPU v5e

Google 人工智能
Wilson (42865)发表于 2023年08月31日 21时37分 星期四

来自天渊
Google 宣布了其自己设计自己使用的新一代 AI 芯片 TPU v5e,它的 TPU 芯片只通过 Cloud TPU 云服务提供给客户。Google 是在 2016 年推出了第一代 TPU(tensor processing unit),2021 年发布 TPU v4。相比上一代 TPU v4,TPU v5e 每一美元的训练性能提高 2 倍,每一美元的推理性能提高 2.5 倍,而成本不到 TPU v4 的一半,使得更多组织能够训练和部署更大更复杂的 AI 模型。TPU v5e 最多允许 256 个芯片互连,总带宽超过 400 Tb/s,支持八种不同的虚拟机配置。根据速度基准测试,在 TPU v5e 上训练和运行 AI 模型时速度提高了 5 倍。


https://cloud.google.com/blog/products/compute/announcing-cloud-tpu-v5e-and-a3-gpus-in-ga
https://www.thepaper.cn/newsDetail_forward_24421175