品玩11月15日讯,高通现已发布旗下云 AI 推理加速卡 Cloud AI 100 Ultra ,该产品专为生成式 AI 和大语言模型打造。
高通表示, Cloud AI 100 Ultra 可以在单张 150W 的卡上部署 100B 参数模型,在两张卡上部署 175B 参数模型,通过堆栈还可以支持更大尺寸的模型。高通表示,Cloud AI 100 平台在最新基准测试结果的所有加速卡中均处于领先地位。

高通发布 Cloud AI 100 Ultra 云推理卡,可运行千亿参数大模型
2023年11月15日品玩11月15日讯,高通现已发布旗下云 AI 推理加速卡 Cloud AI 100 Ultra ,该产品专为生成式 AI 和大语言模型打造。
高通表示, Cloud AI 100 Ultra 可以在单张 150W 的卡上部署 100B 参数模型,在两张卡上部署 175B 参数模型,通过堆栈还可以支持更大尺寸的模型。高通表示,Cloud AI 100 平台在最新基准测试结果的所有加速卡中均处于领先地位。
下载品玩App,比99.9%的人更先知道关于「高通」的新故事
下载品玩App
比99.9%的人更先知道关于「高通」的新故事
0 条评论
请「登录」后评论