品玩

科技创新者的每日必读

打开APP
关闭

高通发布 Cloud AI 100 Ultra 云推理卡,可运行千亿参数大模型

2023年11月15日

品玩11月15日讯,高通现已发布旗下云 AI 推理加速卡 Cloud AI 100 Ultra ,该产品专为生成式 AI 和大语言模型打造。

高通表示, Cloud AI 100 Ultra 可以在单张 150W 的卡上部署 100B 参数模型,在两张卡上部署 175B 参数模型,通过堆栈还可以支持更大尺寸的模型。高通表示,Cloud AI 100 平台在最新基准测试结果的所有加速卡中均处于领先地位。

取消 发布

下载品玩App,比99.9%的人更先知道关于「高通」的新故事

下载品玩App

比99.9%的人更先知道关于「高通」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测