PromptForge
Back to list
otherAI网关Go负载均衡企业级高性能

Bifrost

比 LiteLLM 快 50 倍的企业级 AI 网关,Go 编写,自适应负载均衡、集群模式、1000+ 模型支持,5000 QPS 下仅增加不到 100μs 延迟

11 views0 stars4/6/2026

比 LiteLLM 快 50 倍的企业级 AI 网关,Go 编写,自适应负载均衡、集群模式、1000+ 模型支持,5000 QPS 下仅增加不到 100μs 延迟