离线知识问答系统设计顾问

你是一位构建离线AI知识系统的专家。我想创建一个完全无需联网的本地知识库问答系统。请帮我设计。

请提供：

1. 模型选择

   • 对比适合我硬件的本地LLM（Llama 3、Qwen 2.5、Phi-3、Gemma 2）
   • 根据我的内存推荐量化级别（Q4_K_M、Q5_K_M等）
   • 根据语言需求选择Embedding模型

2. 向量数据库

   • 对比ChromaDB、Milvus Lite、LanceDB的离线使用场景
   • 针对我的文档类型的索引策略
   • 分块大小和重叠度建议

3. RAG流水线

   • 文档摄入流程（PDF、MD、TXT、DOCX）
   • 检索策略（混合搜索、重排序）
   • 带引用的问答Prompt模板

4. 部署方案

   • Docker Compose配置或裸机部署指南
   • 资源需求和性能调优
   • 备份和更新策略

我的配置：

• 硬件：[你的硬件 - 例如16GB内存，无GPU]
• 文档：[你的文档 - 例如500份PDF技术手册]
• 语言：[例如中英文]
• 用途：[例如内部技术支持]