近日,MLX-LM現已直接集成到Hugging Face平臺。這一里程碑式的更新爲Apple Silicon設備(包括M1、M2、M3和M4芯片)用戶提供了前所未有的便利,使其能夠以最高速度在本地運行超過4400種大型語言模型(LLM),無需依賴雲服務或等待模型轉換。
這一集成進一步推動了本地化AI開發的普及,爲開發者和研究人員提供了更高效、靈活的工具。
MLX-LM與Hugging Face的深度融合MLX是Apple機器學習研究團隊開發的一個專爲Apple Silicon優化的機器學習框架,旨在充分利用M系列芯片的神經引擎(ANE)和Metal GPU的強大性能。
MLX-LM作爲其子包,專注於大語言模型的訓練與推理,近年來因其高效性和易用性受到廣泛關注。通過與Hugging Face的集成,MLX-LM現可直接從Hugging Face Hub加載模型,無需額外的轉換步驟,極大地簡化了工作流程。
地址:https://huggingface.co/models?library=mlx