探见世界

模型

NVIDIA发布Nemotron-3.5-Super-VL模型:120B总参数与百万上下文

NVIDIA于2026年10月15日正式发布Nemotron-3.5-Super-VL基础视觉-语言模型,具备1200亿总参数、120亿激活参数及100万tokens上下文窗口。该模型在基准测试中成为得分最高的美国开源权重模型,但现阶段发布的检查点未包含音频编码器。

管理员上传的文章候选图片
编辑视觉管理员上传的文章候选图片。图片来源:管理员上传

模型发布与架构设计

2026年10月15日,NVIDIA在Hugging Face平台正式上线了名为nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16的人工智能模型。作为Nemotron 3.5 Super家族的基础视觉-语言检查点,该模型支持图像与文本双模态输入并输出文本,总参数量达1200亿,采用混合专家(MoE)架构,推理时每个token仅激活120亿参数,并遵循允许商业与非商业用途的OpenMDW 1.1许可协议。

在技术架构上,该模型支持高达100万tokens的长上下文窗口。NVIDIA官方文档显示,其采用了名为LatentMoE的混合架构,交错融合了Mamba-2、MoE以及注意力层,并结合C-RADIO视觉编码器与视觉-语言连接器;同时,模型原生内置多Token预测头以支持投机解码。

智能体工作流与训练技术

官方声明指出,该模型专为多模态智能体工作流设计,支持文档理解、计算机使用、指令遵循、支持JSON输出的工具调用以及多步业务流程,其视觉能力覆盖了OCR、图表、表格、图形用户界面以及视频的时间与空间推理。

在训练路径方面,该模型的语言主干初始化自Nemotron 3 Super Base,并从Nemotron 3 Ultra Base进行知识蒸馏,随后接受了针对Indic语言的持续预训练、长上下文训练与软件工程中期训练。开发者使用反馈显示,模型支持通过聊天模板中的enable_thinking参数或设定reasoning_budget来灵活调节推理模式,以平衡混合工作流下的速度与算力成本。

基准表现与效能对比

媒体引用的Artificial Analysis Intelligence Index测试数据显示,Nemotron 3.5 Super VL获得了26分(部分报道记为26.5分),超越了Thinking Machines的Inkling Small、NVIDIA前代旗舰Nemotron 3 Ultra以及Meta的Muse Glimmer,位居美国开源权重模型首位;分析同时显示,该模型在完成测试任务时比前代减少了约60%的输出token消耗,展现出更高的生成效率。

针对效率指标,NVIDIA官方宣称其以约五分之一的参数量实现了与最大推理模型相当的准确率,且吞吐量比次优模型快5倍。但在全球横向对比中,行业分析指出其得分仍落后于阿联酋的K2 Horizon 375B A23B(31分)和中国的MiMo-V2.6-Pro(46分)。此外,该模型的NVFP4量化版本在基准测试中与全精度BF16版本的总分差距不到0.1分,表现出近乎无损的压缩质量。

发布矩阵与功能限制

NVIDIA在发布Base版本的同时,还推出了BF16全精度后训练版、NVFP4部署优化版以及专用于DGX Spark的LiLiCorr投机解码模型,并同步推出了边缘模型Nemotron 3.5 Bolt 74B-A9B 24GB,且预告将于10月23日推出Bolt E4B 4GB。

尽管模型具备多模态推理能力,但Hugging Face上的官方配置文件明确指出,当前发布的Base-BF16和BF16检查点中并未包含音频编码器,加载时音频功能处于禁用状态,使用者需注意该模态限制。

信息来源(1)

这篇文章对你有帮助吗?