品玩

科技创新者的每日必读

打开APP
关闭

NVIDIA发布Nemotron 3 Super,面向高阶推理任务的开源混合架构模型

6小时前

品玩3月13日讯,据英伟达官方消息,NVIDIA正式推出Nemotron 3 Super——一款面向复杂多智能体推理任务的开源大语言模型。该模型总参数达1200亿,激活参数为120亿,采用创新的混合Mamba-Transformer架构与稀疏专家混合(MoE)机制,在保持高吞吐的同时支持百万级token上下文窗口。

Nemotron 3 Super引入多项关键技术:Latent MoE通过低秩投影压缩路由开销,使专家调用数量提升4倍;多词元预测(MTP)技术实现单次前向生成多个词元,显著加速长序列输出;模型全程以NVIDIA自研NVFP4格式进行原生预训练,适配Blackwell架构,在B200上推理速度较H100提升4倍。

该模型已在PinchBench基准测试中取得85.6%的综合得分,为当前同类开源模型最优。NVIDIA同步开放完整权重、训练数据集及部署方案,支持vLLM、SGLang和TensorRT-LLM等主流推理引擎,并提供LoRA微调与强化学习对齐工具链,助力开发者高效定制与部署。

取消 发布

下载品玩App,比99.9%的人更先知道关于「英伟达」的新故事

下载品玩App

比99.9%的人更先知道关于「英伟达」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测