小紅書開源大模型迎突破：華爲昇騰完成 0 Day 全量適配與性能優化

近期，小紅書正式發佈了全新開源大模型dots3-note preview。作爲該系列的首個版本，該模型擁有280B 的總參數量以及16B 的激活參數量，並具備文本、視覺和語音的全模態感知與理解能力。在推理、Agent 以及多模態任務中，其表現直逼國內外更大尺寸的優秀模型。

在模型發佈當日，華爲官方迅速宣佈，昇騰 Atlas800A3與 Atlas900A3SuperPoD 超節點已完成對該模型的高效適配，並藉助 vLLM Ascend 開源推理引擎提供完整的部署與運行支撐。

此次昇騰針對該模型展開了全鏈路的深度優化，重點攻克了多模態處理與增量解碼的性能瓶頸。在全模態端到端適配上，平臺成功打通了視覺編碼器、音頻特徵提取及大語言模型的主幹推理，確保原生多模態交互的穩定性;在框架特性優化方面，通過通信與計算的深度融合及算子重構，徹底消除了多卡間的重複計算，顯著提升了 MoE 架構的推理吞吐量。

此外，針對增量推理階段的延遲痛點，昇騰原生適配了 MTP 投機解碼能力，通過單次前向並行生成多個候選 Token 並完成校驗複用，大幅減少了解碼前向次數。這一系列底層優化不僅保障了模型的高效穩定運行，也爲長程複雜任務場景的智能落地奠定了堅實的算力基礎。