LiteRT-LM - Google 端侧大模型推理框架

Google AI Edge 团队开源的端侧 LLM 推理引擎，基于 C++ 打造，专注在手机和边缘设备上高效运行大语言模型，是 Google 端侧 AI 战略的核心组件。