近日，DeepSeek 的關聯公司 —— 杭州深度求索人工智能基礎技術研究有限公司，公開了一項名爲 “一種大語言模型的部署方法及系統” 的專利。這項專利的公佈，標誌着該公司在人工智能領域的又一重要進展，尤其是在大語言模型的部署方面。

DeepSeek

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

根據專利的摘要，該發明主要涉及到人工智能的核心技術。其創新之處在於將大語言模型的兩個關鍵階段 —— 預填充階段和解碼階段，分別部署在高性能計算能力和大內存的機器上。這種分佈式的部署方式能夠有效均衡負載任務，最大限度地利用硬件資源。通過減少閒置的計算能力，該方法不僅降低了整體的延遲，還顯著提高了系統的吞吐量。

在當前的 AI 技術發展中，系統的擴展性和容錯性顯得尤爲重要。DeepSeek 的這一專利，正是通過優化資源配置，增強了系統在面對不同工作負載時的適應能力。這種創新部署方法，預示着未來的 AI 模型將更高效、更智能，有望爲各類應用場景提供更好的支持。

值得一提的是，DeepSeek-V3作爲該公司的核心產品之一，其強大的 Mixture-of-Experts （MoE） 語言模型，擁有671B 個參數，每個 token 的激活參數達到37B。這一技術的進步，無疑將推動 AI 技術的普及和應用，助力各行各業的數字化轉型。

劃重點:

🌟 DeepSeek 發佈新專利，創新部署大語言模型的方法，提高系統性能。  

🚀 分佈式部署實現硬件資源的最大化利用，減少整體延遲。  

📈 增強系統的擴展性和容錯性，助力未來 AI 技術的發展。