螞蟻集團發佈 4bits 量化版本的開源代碼大模型 CodeFuse-CodeLlama-34B

螞蟻集團最近發佈了 CodeFuse-CodeLlama-34B 的 4bits 量化版本，該模型經過量化後仍可用單張 A10 或 RTX4090 加載。經過量化後的模型在 Humaneval pass@1 指標上取得了 73.8% 的表現。CodeFuse 是螞蟻自研的代碼生成專屬大模型，通過提供智能建議和實時支持，幫助開發者自動生成代碼，提升研發效率。