品玩12月2日讯,据TechCrunch消息,AWS在年度re:Invent开发者大会上宣布推出AWS Trainium,下一代训练机器学习模型的定制芯片。该公司承诺,它可以提供比云端任何竞争对手更高的性能,支持TensorFlow、PyTorch和MXNet。
它可供EC2(亚马逊弹性计算云)上的instance使用,也可以在Amazon的机器学习平台SageMaker内部使用。基于这些定制芯片的新instance将于明年推出。
与标准的AWS GPU instance相比,AWS承诺Trainium可提高30%的吞吐量和降低45%的每次推理成本。
0 条评论
请「登录」后评论