在當前大模型高速迭代的背景下，算力成本與處理效率始終是行業關注的焦點。近日，富士通公開了一項名爲PHOTON（自上而下網絡並行分層計算）的創新架構，旨在破解傳統Transformer模型在複雜場景下的性能桎梏。

Transformer架構作爲當前AI領域的主流，雖然性能強大，但其在處理長文本或高併發的多查詢任務時，往往因需要頻繁進行訪存操作來調取歷史信息，導致處理速度難以提升，進而增加了GPU的計算負擔。富士通研發團隊通過對PHOTON架構的重新設計，巧妙地繞過了這一痛點。

image.png

PHOTON架構的核心優勢在於其獨特的分層處理機制。與傳統Transformer採用的詞元（Token）級分割方式不同，PHOTON引入了語義分層技術，這不僅有效降低了計算複雜度，還大幅提升了並行計算的能力。此外，在處理多查詢任務的決策環節，該架構通過“多數決定”或“最佳選擇”策略，實現了僅需一次推理即可得出結論的精簡流程。

測試數據顯示，在參數規模爲600M、900M及1.2B的小型模型中，PHOTON展現出了極高的吞吐量和極低的內存佔用。特別是在1.2B參數模型下，其多查詢性能更是達到了主流Transformer架構的475倍，極大地優化了資源調度效率。

由於該架構在每次迭代中所需的KV Cache更少，這意味着系統能夠支持更高的迭代次數，這對於需要處理大量I/O流程的智能體系統而言，無疑是一個巨大的性能增益。儘管在部分指標上質量略有折損，但PHOTON憑藉其在計算效率上的跨越式進步，爲降低AI運行成本提供了一種極具潛力的技術方案。

目前，富士通正積極推動該架構的應用落地，希望通過底層算法的創新，爲未來的智能化應用場景提供更輕量、更高效的底層支撐。