谷歌TPU超算,大模型性能超英伟达,已部署数十台:图灵奖得主新作 与英伟达的GPU相比,谷歌TPU采用低精度计算,几乎不影响深度学习处理效果的前提,比基于英伟达 A100 芯片的系统快 1.7 倍,能效高 1.9 倍。 我们还没有看到能与 ChatGPT 相匹敌的 AI 大模型,但在算力基础上,领先的可能并不是微软和 OpenAI。 本周二,谷歌公布了其训练语言大模型的超级计算机的细节...
网页链接谷歌TPU超算,大模型性能超英伟达,已部署数十台:图灵奖得主新作 与英伟达的GPU相比,谷歌TPU采用低精度计算,几乎不影响深度学习处理效果的前提,比基于英伟达 A100 芯片的系统快 1.7 倍,能效高 1.9 倍。 我们还没有看到能与 ChatGPT 相匹敌的 AI 大模型,但在算力基础上,领先的可能并不是微软和 OpenAI。 本周二,谷歌公布了其训练语言大模型的超级计算机的细节...
网页链接
精彩评论