vllm-omni

vLLM 多模态推理框架，支持文本、图像、音频等全模态模型的高效推理服务，是 vLLM 的下一代进化版本