PromptForge
Back to list
other端侧推理Google移动端C++

LiteRT-LM

Google 端侧大模型推理引擎,用 C++ 实现高性能本地 LLM 推理。专为移动端和边缘设备优化,支持在手机和 IoT 设备上运行大语言模型。

14 views0 stars4/6/2026

Google 端侧大模型推理引擎,用 C++ 实现高性能本地 LLM 推理。专为移动端和边缘设备优化,支持在手机和 IoT 设备上运行大语言模型。