品玩

科技创新者的每日必读

打开APP
关闭

OpenAI低延迟推理层级Ultrafast或迎扩展

3小时前

品玩9月28日讯,据 toolnavs 报道,Ultrafast是OpenAI今年8月随GPT-5.6 Sol推出的超低延迟推理层级,官方标称最高每秒750个词元,较Standard层级快14倍。

9月26日,开发者在OpenAI Platform及API文档中发现Ultrafast相关引用;TestingCatalog另发现Responses API Playground中正在开发的隐藏速度选择器,可在Standard、Fast与Ultrafast间切换。

需明确的是,Ultrafast并非新模型,而是服务层级,运行于Cerebras基础设施之上。OpenAI此前已宣布与Cerebras达成750兆瓦容量合作,分阶段部署至2028年。目前该层级仅向有限客户开放,GPT-5.6 Sol为唯一确认支持的模型。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测