Back to list
other端侧推理Google移动端C++
LiteRT-LM
Google 端侧大模型推理引擎,用 C++ 实现高性能本地 LLM 推理。专为移动端和边缘设备优化,支持在手机和 IoT 设备上运行大语言模型。
14 views0 stars4/6/2026
Google 端侧大模型推理引擎,用 C++ 实现高性能本地 LLM 推理。专为移动端和边缘设备优化,支持在手机和 IoT 设备上运行大语言模型。
Google 端侧大模型推理引擎,用 C++ 实现高性能本地 LLM 推理。专为移动端和边缘设备优化,支持在手机和 IoT 设备上运行大语言模型。
Google 端侧大模型推理引擎,用 C++ 实现高性能本地 LLM 推理。专为移动端和边缘设备优化,支持在手机和 IoT 设备上运行大语言模型。