Back to list
otherAI Gateway负载均衡Go高性能
Bifrost
最快的企业级 AI 网关(比 LiteLLM 快 50 倍),支持自适应负载均衡、集群模式、护栏、1000+ 模型,延迟低于 100微秒(5k RPS)。Go 语言编写,适合高性能场景。
11 views0 stars4/7/2026
最快的企业级 AI 网关(比 LiteLLM 快 50 倍),支持自适应负载均衡、集群模式、护栏、1000+ 模型,延迟低于 100微秒(5k RPS)。Go 语言编写,适合高性能场景。