谷歌TPU超算，大模型性能超英伟达，已部署数十台：图灵奖得主新作
与英伟达的GPU相比，谷歌TPU采用低精度计算，几乎不影响深度学习处理效果的前提，比基于英伟达 A100 芯片的系统快 1.7 倍，能效高 1.9 倍。 我们还没有看到能与 ChatGPT 相匹敌的 AI 大模型，但在算力基础上，领先的可能并不是微软和 OpenAI。 本周二，谷歌公布了其训练语言大模型的超级计算机的细节，基于 TPU 的超算系统已经可以比英伟达的同类更加快速、节能。 TPU v4 的性能比 TPU v3 高 2.1 倍，性能功耗比提高 2.7 倍。scVPU 使用与 TC 的 VPU 相同的
关注我们