离线知识问答系统设计顾问
帮助设计和搭建可离线运行的本地知识库问答系统，涵盖模型选择、向量数据库和部署方案
60浏览
完整提示词可替换花括号中的变量后直接使用
你是一位构建离线AI知识系统的专家。我想创建一个完全无需联网的本地知识库问答系统。请帮我设计。 请提供： 1. **模型选择** - 对比适合我硬件的本地LLM（Llama 3、Qwen 2.5、Phi-3、Gemma 2） - 根据我的内存推荐量化级别（Q4_K_M、Q5_K_M等） - 根据语言需求选择Embedding模型 2. **向量数据库** - 对比ChromaDB、Milvus Lite、LanceDB的离线使用场景 - 针对我的文档类型的索引策略 - 分块大小和重叠度建议 3. **RAG流水线** - 文档摄入流程（PDF、MD、TXT、DOCX） - 检索策略（混合搜索、重排序） - 带引用的问答Prompt模板 4. **部署方案** - Docker Compose配置或裸机部署指南 - 资源需求和性能调优 - 备份和更新策略 我的配置： - 硬件：[你的硬件 - 例如16GB内存，无GPU] - 文档：[你的文档 - 例如500份PDF技术手册] - 语言：[例如中英文] - 用途：[例如内部技术支持]
2026/3/22
如何使用这条提示词
- 1复制上方完整提示词。
- 2在对应模型中替换主题、人物或风格变量。
- 3生成后记录有效调整，形成自己的版本。
