品玩

科技创新者的每日必读

打开APP
关闭

英伟达推出AI模型推理微服务NVIDIA NIM

2024年6月3日

品玩6月3日讯,据英伟达官方消息,英伟达 一项AI模型推理服务NVIDIA NIM。

全球2800万英伟达开发者可以通过NIM将AI模型部署在云、数据中心或工作站上,轻松地构建copilots、ChatGPT聊天机器人等生成式 AI 应用,所需时间从数周缩短至几分钟。

英伟达表示,未来,开发者们可以在几分钟内,轻松构建生成式AI应用程序。NIM还支持Meta Llama 3-8B,可以在加速基础设施上生成多达3倍的token。

取消 发布

下载品玩App,比99.9%的人更先知道关于「英伟达」的新故事

下载品玩App

比99.9%的人更先知道关于「英伟达」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测