PromptForge
Back to list
otherllmlocal-aimodel-servingapi-proxy

llama-swap

本地多模型热切换代理服务器,兼容 OpenAI/Anthropic API,可在 llama.cpp、vLLM 等推理后端之间无缝切换模型

5 views0 stars4/19/2026

本地多模型热切换代理服务器,兼容 OpenAI/Anthropic API,可在 llama.cpp、vLLM 等推理后端之间无缝切换模型