アリババグループが4ビット量子化版のオープンソースコード大規模言語モデルCodeFuse-CodeLlama-34Bを発表

アリババグループは最近、CodeFuse-CodeLlama-34Bの4ビット量子化バージョンを発表しました。このモデルは量子化後も、単一のA10またはRTX4090でロード可能です。

量子化後のモデルは、Humaneval pass@1指標において73.8％の性能を示しました。

CodeFuseはアリババグループが独自開発したコード生成専用の巨大言語モデルです。インテリジェントな提案とリアルタイムサポートを提供することで、開発者がコードを自動生成し、開発効率を向上させるお手伝いをします。