美国谷歌公司公布TPU超算细节,训练大模型的性能超英伟达

2023-04-07  美国 来源:其他 作者:刘纪铖 领域:信息

关键词:

据品玩网4月6日消息,美国谷歌公司公布了其训练语言大模型的超级计算机TPU v4的细节,其基于张量处理器(TPU)的超算系统比英伟达的同类产品更加快速、节能。超级计算机TPU v4包含4000个TPU芯片。TPU是谷歌自己研发设计的芯片,目前该公司超过90%的模型训练都是在TPU上进行。谷歌称,与同等规模的系统相比,超级计算机TPU v4比基于英伟达A100的系统快1.2-1.7倍,耗电量低1.3-1.9倍。

消息来源:https://www.pingwest.com/a/279526