LiteRT-LM

Google AI Edge 推出的端侧大模型推理引擎，C++ 编写，专为移动设备和嵌入式平台优化，支持 Gemma/Phi 等模型的高效本地推理。