NVIDIA发布1200亿参数AI模型及两款边缘计算模型
10月15日，美国NVIDIA宣布扩展Nemotron 3.5开放模型系列，推出1200亿参数的Nemotron 3.5 Super VL多模态模型，以及面向本地计算设备的Nemotron 3.5 Bolt 74B-A9B和Bolt E4B两款模型。其中，Super VL和74B版本已正式开放使用，4GB版本计划于10月23日发布。三款模型分别面向企业级AI智能体、个人计算设备和嵌入式边缘终端。
Super VL由NVIDIA联合Nemotron Coalition开发，支持指令执行、工具调用、多步骤业务处理和视觉理解。NVIDIA公布的测试结果显示，该模型的多模态任务准确率可达到其大型推理模型的相近水平，参数规模约为后者的五分之一。在同类开放模型的性能对比中，其推理吞吐量最高达到竞争模型的5倍。该模型可处理包含文本、图像、图表及表格的网页和PDF文件，并支持基于企业内部数据开展定制训练。
Super VL的训练使用约26万亿个预训练及持续预训练Token，并采用约380万个后训练样本，结合多个强化学习环境优化模型表现。NVIDIA同步开放了模型权重、训练方法及覆盖工具调用、金融业务、长上下文处理、安全性和视觉语言理解的数据集。开发者可通过NVIDIA NeMo及NeMo Gym进行模型微调和强化学习训练，并利用NVIDIA NIM微服务部署模型。
面向本地运行的Bolt 74B-A9B采用混合专家架构，总参数量为740亿，每次推理激活约90亿参数。该模型通过原生2位量化技术，将运行所需模型内存控制在24GB，可部署于GeForce RTX计算机、DGX Spark、DGX Station及RTX PRO工作站。NVIDIA已提供适用于llama.cpp、Ollama、LM Studio、Unsloth和vLLM的运行支持，用户可在本地执行代码编写、软件调试和信息检索等智能体任务。
另一款Bolt E4B面向4GB内存配置，适配GeForce RTX、Jetson及RTX Spark平台，支持多轮对话、语音助手、交互式角色和嵌入式智能终端。NVIDIA将其定位于物理人工智能和对话智能体应用，覆盖消费设备、车载交互系统及其他需要本地推理的终端。
NVIDIA还公布了Super VL的企业定制与软件集成进展。Scale AI已针对Skydance的供应商信用融资智能体和EY的并购尽职调查智能体完成模型后训练;AfterQuery为Hebbia开发了信贷协议分析模型;Mercor则利用APEX-SWE代码评测数据开展模型训练。Atlassian、CrowdStrike、Dassault Systèmes、Perplexity、Salesforce和Synopsys也已分别开展搜索、安全分析、工程设计、政务流程及半导体设计验证相关集成。
在推理部署中，Super VL支持NVIDIA Dynamo运行环境。NVIDIA公布的性能数据表明，该组合在相应测试配置下可支持最高8倍的用户数量，同时将延迟降低85%。模型现已通过Hugging Face、OpenRouter、ModelScope及NVIDIA NIM提供，企业可在自有服务器、数据中心或云计算环境部署，并按照内部业务流程继续训练和调整模型。
