阿里巴巴達摩院於今年 3 月發佈的旗艦級CPU玄鐵C950,近日迎來了其發展史上的重要里程碑——成功原生運行通義千問3.8-27B大模型。這一突破標誌着RISC-V架構芯片在不依賴GPU、無需任何模擬層的情況下,首次直接驅動 270 億參數量級的大型人工智能模型,展現出令人矚目的技術潛力。
作爲一款 64 位服務器級處理器,玄鐵C950 採用臺積電5nm工藝製造,內部集成高達 64 個計算核心,通過每 8 核一組的高速AMBA CHI總線實現互聯,主頻最高可達3.2GHz。在硬件架構上,該芯片不僅具備 8 指令譯碼寬度和 16 級流水線設計,使其訪存帶寬較上一代玄鐵C920 提升超過 4 倍,還在芯片內部直接集成了專爲AI推理負載量身優化的矩陣加速引擎與向量加速引擎。憑藉卓越的設計,其單核通用性能在SPECint2006 基準測試中突破 70 分,成功刷新全球RISC-V CPU的性能紀錄。
在實際運行表現方面,當玄鐵C950 驅動通義千問3.8-27B模型時,解碼速度達到了每秒 30 個Token,首Token延遲則被穩穩控制在1. 9 秒以內。傳統模式下,運行如此規模的模型通常需要16GB至24GB的獨立顯存支持,而玄鐵C950 僅憑CPU本體外加片上加速引擎便能獨立完成整個推理過程,徹底省去了外接獨立顯卡的繁瑣配置。
從行業生態的宏觀層面來看,RISC-V的開源特性賦予了其獨特的戰略優勢。與依賴x86 或ARM架構需要支付高昂授權費用的模式不同,阿里巴巴通過全面掌控千問模型家族、雲計算基礎設施以及玄鐵芯片架構,實現了從底層芯片設計到頂層模型推理的全鏈條自主可控。這種垂直整合的能力,意味着未來的模型算子能夠根據硬件特性進行深度重新設計,後續芯片也能直接依據生產環境中的實際數據定製專用指令集,爲AI基礎設施的多元化發展開闢了全新的道路。
VIP會員