在追求大模型生成效率的道路上，英偉達近日給出了新的解法。7月1日，英偉達正式開源了旗下最新的Nemotron-Labs-TwoTower擴散語言模型，旨在通過架構創新打破傳統自迴歸（AR）模型的吞吐量瓶頸。

傳統的自迴歸模型在處理文本生成時，需要逐個 token 串行解碼，這在面對大規模合成任務時顯得效率不足。英偉達提出的“雙塔”架構則另闢蹊徑，將任務拆解爲兩個部分:一個是保持凍結狀態的“上下文塔”，負責處理提示詞並保留原有的語言理解能力;另一個則是經過特定訓練的“去噪器塔”，專門負責並行生成並優化 token。

這種架構設計的精妙之處在於平衡了“質量”與“速度”。在2×H100GPU 的評測環境下，該模型在默認設置下成功保留了基線模型98.7% 的生成質量，而其實際生成吞吐量卻實現了2.42倍的顯著提升。這意味着對於需要批量生產合成文本的數據團隊而言，這無疑是一款兼具高性能與高效率的利器。

在具體運作上，該模型具備極高的靈活性，支持擴散模式、模擬 AR 和標準 AR 三種解碼方式，開發者可以根據任務需求自由選擇。目前，該模型已作爲開放權重項目發佈，遵循 NVIDIA Nemotron 開放模型許可協議，完全支持商業用途。

儘管該模型在代碼生成和數學推理任務上相較於原始基線有輕微性能回落，且對 GPU 顯存有一定要求，但其爲大模型推理加速提供了一個極具潛力的技術方向。隨着人工智能應用向高頻、大規模場景滲透，這種通過算法架構優化來換取生成速度的思路，正在成爲模型研發的新趨勢。