HuggingFace Spaceで新しいツール「Model Memory Calculator」が登場しました。モデル名とデータ型を入力するだけで、モデルのメモリ使用量を予測でき、誤差はわずか0.5MBです。操作も簡単で、GPUメモリ容量の心配はもう不要です。実際の推論時のメモリ使用量は、予測値より約20%多くなります。このプロジェクトはオープンソース愛好家のZach Mueller氏によって作成され、様々な大規模モデルのメモリ使用量をワンクリックで測定できます。