mistral.rs

Rust 编写的高性能 LLM 推理引擎，支持文本/图像/视频/音频多模态、MXFP4 量化、内置 Web UI 和 MCP 客户端，一行命令运行任何 HuggingFace 模型