品玩8月31日讯,据 theregister报道,谷歌近日发布了第五代定制张量处理器芯片 TPU v5e,该芯片可用于大模型训练和推理。
谷歌表示,与2021年发布的TPU v4相比,该芯片的每美元训练性能提高了一倍,大型语言模型和生成式人工智能模型的每美元推理性能提高了2.5倍。新的 TPU 将有八种不同的虚拟机配置,单片内的 TPU 芯片从一个到 250 多个不等。
TPU 是谷歌用于加速机器学习的定制芯片,Cloud TPU 服务基于该公司自己的 TensorFlow 机器学习框架,以及包括 Jax 和 PyTorch 在内的其他框架。





0 条评论
请「登录」后评论