你有多个知识库，做 RAG 的时候，怎么保证查询效率和准确性兼容，并尽可能减少幻觉？
- 标签：AI、大模型、RAG
🏛 业务架构师
多知识库场景要兼顾效率、准确与低幻觉，我的架构打法是"分而治之+统一门面"：
1. 路由前置（保效率）：不把所有库混在一起查——先做意图识别/领域路由，把 query 分发到对应知识库（产品库、制度库、技术库）。混查不仅慢，更致命的是跨库噪声引发幻觉。路由可以是规则（关键词）+小模型分类器，准确率 95% 以上不难。
2. 分库索引策略差异化（保准确）：各库按内容形态定制——制度库用结构化切分+自查询（时效/部门过滤）、FAQ 库整条入库、技术文档父子分块。元数据规范统一（来源、版本、密级、生效时间），这是准确性与合规的共同底座。
3. 检索层统一治理（防幻觉）：
- 命中阈值分库设定，低置信度宁可拒答不可硬编；
- 混合检索+Rerank 保证送进模型的内容质量；
- 强制引用与来源展示——答案必须挂知识库出处，用户可核验；
- Prompt 明确"仅依据检索内容回答，资料不足转人工或说明"。
4. 权限隔离：检索层强制按用户数据权限过滤知识库范围，防止越权召回。
业务要点：多知识库的失败通常不是算法问题而是治理问题——元数据不统一、更新责任不清、权限口径不一。先立知识库管理办法再立代码，这是我反复验证的顺序。
🏗 系统架构师
多知识库 RAG 是真实架构题，我的方案是**"路由分流 + 统一治理 + 幻觉防线"**三段式：
第一层：意图路由（效率的根基）。不做全库广播检索（N 库并发检索 = N 倍延迟与成本，且噪声互相干扰）。入口做 query 分类：显式指定库（"根据员工手册…"）→ 直达；语义模糊 → 意图分类器（小模型/embedding 分类，<50ms）路由到最相关的 1~2 个库；跨库问题 → 并行检索后融合。元数据（部门、主题、权限）辅助预筛。
第二层：统一治理（准确性的根基）：
- 统一 schema 规范：各库 chunk 元数据对齐（来源、置信度、时间、权限标签），融合时才可比；
- 权限过滤前置：用户可见域在检索层强制 pre-filter，防止越权片段进上下文（多库场景最易出安全事故）；
- 分库质量画像：各库分别评估 recall/faithfulness，短板库定向优化，而不是全局换模型。
第三层：幻觉防线：跨库答案要分源引用（答案句级标注来自哪个库哪篇文档）；检索相关性低于阈值 → 坦承无依据并澄清问题而不是硬答；Rerank 用统一模型保证跨库分数可比。
架构要点：库数量增长（>10）后，路由层本身要进化为"知识库目录服务"（库注册 + 能力描述 + 健康度），这是 RAG 平台化的必经一步。
💻 全栈开发专家
多知识库场景，我用「路由分层 + 融合检索 + 治理」三件套解决效率、准确性和幻觉：
1. 路由层（解决效率）：不查所有库。入口一个轻量意图分类（小模型/规则），识别目标域（产品库/制度库/工单库）再定向检索；跨域问题（很少）才并发多库。路由错了全盘错，所以路由日志要回收标注，持续优化。
2. 检索层（解决准确）：
- 统一 schema：所有库的 chunk 统一字段（content、source、time、acl、confidence），检索接口统一；
- 库内：混合检索（向量+BM25）+ rerank；
- 库间：RRF 融合 + 来源可信度加权（权威制度库权重高于零散 FAQ）；
- 权限过滤前置：acl 条件在检索 SQL/filter 阶段生效，绝不做查后过滤（既漏数据又有泄露风险）。
3. 生成层（解决幻觉）：
- 每个库有明确的「知识边界声明」，prompt 里告诉模型各来源的性质；
- 强制引用 + 忠实度校验：答案句必须能在引用 chunk 找到支撑（NLI 自动校验）；
- 多库答案冲突时（产品库说过渡政策、制度库没有）：以高可信库为准并在答案中标注来源差异，不确定就拒答。
运维侧：各库独立评测集，新增库要「考级」（recall 和忠实度达标才接入路由）。我们 6 个库并网时靠这套机制把跨库错引率压在 2% 以内。