mlx-lm

Apple MLX框架的LLM推理库，专为Apple Silicon优化。支持在Mac本地高效运行各种大语言模型，包括量化推理和微调，是Mac用户本地AI的首选方案。