Back to list
otherllmlocal-aimodel-servingapi-proxy
llama-swap
本地多模型热切换代理服务器,兼容 OpenAI/Anthropic API,可在 llama.cpp、vLLM 等推理后端之间无缝切换模型
5 views0 stars4/19/2026
本地多模型热切换代理服务器,兼容 OpenAI/Anthropic API,可在 llama.cpp、vLLM 等推理后端之间无缝切换模型
本地多模型热切换代理服务器,兼容 OpenAI/Anthropic API,可在 llama.cpp、vLLM 等推理后端之间无缝切换模型
本地多模型热切换代理服务器,兼容 OpenAI/Anthropic API,可在 llama.cpp、vLLM 等推理后端之间无缝切换模型