品玩6月3日讯,据英伟达官方消息,英伟达 一项AI模型推理服务NVIDIA NIM。
全球2800万英伟达开发者可以通过NIM将AI模型部署在云、数据中心或工作站上,轻松地构建copilots、ChatGPT聊天机器人等生成式 AI 应用,所需时间从数周缩短至几分钟。
英伟达表示,未来,开发者们可以在几分钟内,轻松构建生成式AI应用程序。NIM还支持Meta Llama 3-8B,可以在加速基础设施上生成多达3倍的token。

英伟达推出AI模型推理微服务NVIDIA NIM
2024年6月3日品玩6月3日讯,据英伟达官方消息,英伟达 一项AI模型推理服务NVIDIA NIM。
全球2800万英伟达开发者可以通过NIM将AI模型部署在云、数据中心或工作站上,轻松地构建copilots、ChatGPT聊天机器人等生成式 AI 应用,所需时间从数周缩短至几分钟。
英伟达表示,未来,开发者们可以在几分钟内,轻松构建生成式AI应用程序。NIM还支持Meta Llama 3-8B,可以在加速基础设施上生成多达3倍的token。
下载品玩App,比99.9%的人更先知道关于「英伟达」的新故事
下载品玩App
比99.9%的人更先知道关于「英伟达」的新故事
0 条评论
请「登录」后评论