品玩

科技创新者的每日必读

打开APP
关闭

第四范式发布先知AIOS 5.1,升级支持GPU资源池化功能

2024年7月24日

今天,第四范式先知AIOS 5.1版本正式发布。该版本新增GPU资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省80%的硬件成本,提高GPU综合利用率多达5-10倍。

第四范式先知AIOS 5是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知AIOS 5.1版本新增GPU资源池化(vGPU)能力,拥有五大技术亮点:

  • 全面适配国产/非国产算力,支持混合部署与统一调度
  • 算力和显存超分复用,算力切分精细到1%,显存切分以M兆为单位
  • 具备千卡级别分布式调度与管理能力
  • 支持自定义隔离策略,实现共享或独享算力池
  • 利用多任务共享及处理优化技术,推理性能提升10倍以上

了解产品详情,可致电400-898-7788,或扫描下方二维码。

取消 发布

下载品玩App,比99.9%的人更先知道关于「第四范式」的新故事

下载品玩App

比99.9%的人更先知道关于「第四范式」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测