维度网讯，美国英伟达近日开源Nemotron-Labs-TwoTower模型，通过双塔架构提升大模型文本生成效率。该模型在测试中保留自回归基线模型98.7%的质量表现，同时实现2.42倍实际生成吞吐提升，相关权重已在美国Hugging Face平台开放。

TwoTower的技术重点，是把传统语言模型中“理解上下文”和“生成新Token”这两类任务拆开处理。多数自回归模型需要一个Token接一个Token顺序生成，前一个Token没有完成，后一个Token就无法进入稳定输出流程。这种方式质量较高，但在长文本、代码生成、智能体任务和高并发服务中，容易形成速度瓶颈。美国英伟达提出的TwoTower架构，则将模型拆分为上下文塔和去噪塔：上下文塔负责读取提示词和已有文本，保持自回归模型对语义、逻辑和上下文的理解能力;去噪塔负责对噪声块进行迭代修正，让文本生成可以以更接近并行的方式推进。

从模型结构看，Nemotron-Labs-TwoTower基于Nemotron-3-Nano-30B-A3B构建，总体由两座约30B规模的模型塔组成，采用混合Mamba-Transformer MoE架构。上下文塔保持冻结，主要承担“只读”的上下文表示任务;去噪塔单独训练，利用双向块注意力和逐层交叉注意力，从上下文塔读取语义信息，再完成块级生成和去噪。这样的设计避免了一个网络同时承担上下文表达和迭代去噪两种职能，也让原有预训练自回归模型能力得以复用，不需要完全从零训练一个扩散语言模型。

在训练和效率层面，TwoTower的价值不仅是推理速度提升。论文信息显示，该模型使用约2.1万亿Token训练，并在开放权重30B混合架构模型基础上完成适配。相较传统扩散语言模型容易出现的语义理解下降问题，TwoTower通过保留冻结的自回归上下文塔，把已有模型对语言知识和长上下文的掌握留在系统中，再让去噪塔专门解决并行生成问题。也就是说，它不是简单牺牲质量换速度，而是在模型任务分工上重新设计生成流程。

2.42倍Token生成提速，对开发者和企业部署有直接意义。大模型应用进入智能体、AI编程、客服问答、知识库生成和长文档处理后，输出速度会影响用户等待时间、服务并发能力和推理成本。一次智能体任务可能包含多轮规划、工具调用、代码生成、结果校验和解释输出，Token生成速度越慢，整体任务耗时越长;如果模型在保持接近原有质量的同时提高吞吐，就能让同样硬件承载更多请求，或在相同请求量下降低响应时间。

这次开源也让TwoTower不只是实验室架构。美国Hugging Face页面显示，Nemotron-Labs-TwoTower-30B-A3B-Base-BF16可通过Transformers加载，也可使用vLLM、SGLang和Docker Model Runner等方式部署。对研究者来说，开放权重便于复现实验、比较解码模式和探索扩散语言模型在长文本生成中的表现;对工程团队来说，开源模型能进入本地测试环境，用于评估推理成本、显存占用、服务吞吐和质量稳定性。

不过，TwoTower并不意味着所有文本任务都会无条件获得2.42倍体验提升。实际速度会受到硬件配置、批处理规模、上下文长度、解码策略、部署框架和任务类型影响。对于短问答、低并发或对生成顺序强依赖的场景，收益可能不如长文本生成、代码补全和智能体多步骤输出明显。模型保留98.7%质量也意味着仍存在一定能力损耗，尤其在数学、代码或需要严密推理的任务中，开发者需要结合自己的业务数据做验证。

美国英伟达开源TwoTower，反映出大模型竞争正在从参数规模扩张，进入生成效率、推理成本和工程部署能力的深水区。更快的Token生成速度，可以让AI应用更接近实时交互;开放权重和主流部署框架支持，则让企业有机会在自己的硬件和业务流程中测试新架构。TwoTower的落点不是替代所有自回归模型，而是为长文本、高并发、智能体和本地推理场景提供一种新的生成路径：保留已有模型的上下文理解能力，同时用扩散式去噪机制解决逐Token生成的速度瓶颈。