vLLM Omni

vLLM团队推出的全模态模型推理框架，支持文本、图像、音频等多模态输入输出的高效推理