品玩

科技创新者的每日必读

打开APP
关闭

摩尔线程发布MTT S5000 Prefill-as-a-Service白皮书

17小时前

品玩8月24日讯,据摩尔线程官方消息,摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》,基于旗舰级AI训推一体智算卡MTT S5000构建"Prefill As a Service"新范式,面向AI Agent、超长文档分析等长上下文推理场景。

白皮书指出,大模型上下文规模迈入百万级后,Prefill计算密集型与Decode访存密集型的算力错配成为核心瓶颈。方案通过将二者解耦,使各自运行于最契合的硬件资源池,实现单位Token成本大幅下降。

MTT S5000凭借高计算密度与原生FP8支持,在64K上下文场景下单机吞吐达5.8 MTokens TPM,满负载下单机月收入可达64.6万元。

取消 发布

下载品玩App,比99.9%的人更先知道关于「摩尔线程」的新故事

下载品玩App

比99.9%的人更先知道关于「摩尔线程」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测