LiteRT-LM

Google 端侧大模型推理框架，支持 Android/iOS/Web/桌面/树莓派，GPU 和 NPU 加速，支持 Gemma、Llama、Qwen 等模型的工具调用和多模态输入