英偉達雙塔 AI 模型開源發佈，文本生成速度提升 2.42 倍、畫質保留 98.7%

英偉達 7 月 2 日推出 Nemotron-Labs-TwoTower 離散擴散語言模型，旨在解決大模型逐一生成 Token 速度慢的痛點，相關權重已在 Huggingface 開源。模型基於現有 Nemotron 骨幹網絡改造，複用預訓練權重，無需從零完整訓練，大幅降低開發成本。

60B 雙塔架構，分工並行提升生成效率

模型總參數量 60B，拆分爲兩座 30B 獨立神經網絡協同工作，每塔激活 3B 參數，搭載 128 個可路由專家模塊。上下文塔固定凍結，負責留存全文語義信息；去噪塔專門訓練，依靠擴散機制並行生成文本，兩塔通過交叉注意力互通數據。

傳統模型逐 Token 串行輸出，雙塔架構可並行寫入文本，大幅拉高推理吞吐量，兼顧速度與輸出效果。多類基準測試數據顯示，模型綜合能力保留原版 98.7% 水準，文本生成吞吐速度直接提升 2.42 倍，僅代碼、數學類任務小幅下滑。

開源落地，適配多場景推理部署

該模型採用英偉達專屬開源協議開放權重，開發者可自由下載測試、商用部署。運行需搭配雙張 H100 或 A100 80GB 顯卡，單卡僅支持純自迴歸模式，雙塔完整推理需雙卡協同。測試覆蓋常識、數學、代碼、閱讀理解等多項任務，多數指標與原版基本持平，平衡了生成速度與內容質量。