RAG 和模型微调 Fine-tuning 有什么区别？如何选择？
- 标签：RAG、Fine-tuning
🏛 业务架构师
RAG 与微调的区别与选择，我用"双库理论"讲透：
本质区别：
- RAG：知识放外部知识库，检索后注入上下文——模型的"开卷考试"。知识更新=改文档（分钟级）；可溯源（有出处）；可控权限（谁能检索什么）；不改模型参数。
- 微调：知识/行为固化进模型参数——"闭卷考试 + 刻意练习"。更新=重新训练（周级）；不可溯源；无知识级权限控制；但行为风格、输出格式、领域推理范式的稳定性远超提示词方案。
五维对比：知识时效（RAG 胜）、成本（RAG 建设便宜、微调要 GPU 和数据工程）、效果类型（RAG 提升事实性、微调提升行为一致性）、可解释（RAG 可引用）、数据要求（微调要几千条高质量样本对，RAG 要文档）。
怎么选，我的决策树：
- 需求是"知道公司的事实"（产品参数、政策、案例）→ RAG，没有悬念；
- 需求是"按公司的方式做事"（话术风格、固定格式、领域推理套路）→ 提示工程先试 → 不稳则微调；
- 调用量巨大且任务简单（分类、抽取）→ 微调小模型替代大模型 API（成本驱动）；
- 数据敏感必须私有化 + 开箱模型不够好 → 私有化部署 + 按需微调；
- 组合场景（既要知道事实又要按套路表达）→ RAG+微调双管齐下（微调管行为、RAG 管事实）。
一句话背诵：RAG 是给模型配"资料库"，微调是送模型去"培训班"——先配资料库（便宜、灵活），培训班留给确有必要的少数场景。
🏗 系统架构师
RAG vs 微调：知识供给方式与行为塑造方式的本质区别，我用决策框架讲：
机制差异：
- RAG：外部知识运行时注入——模型权重不动；知识可实时更新（分钟级）、可溯源（引用）、可权限控制（检索层过滤）、无灾难性遗忘问题；代价：检索链路复杂、延迟增加、上下文窗口占用、检索质量决定效果上限；
- 微调：知识/行为内化进权重——推理时零额外延迟、不占窗口、可塑造风格与格式（行为改变 RAG 做不到）；代价：更新成本高（重训周期天/周级）、不可溯源、有遗忘风险、隐式知识容量有限（"微调存知识又贵又不可靠"是共识）。
选择决策树：
- 知识是事实性的、会更新、需要引用？ → RAG（政策、价格、文档）；
- 要改变的是行为（格式、风格、术语体系、判断模式）？ → 微调；
- 两者都要？ → 组合：微调塑行为 + RAG 供事实——生产系统的标准答案；
- QPS 高、成本敏感？ → 微调小模型（+RAG 供热点知识），单条成本降一个量级；
- 样本少（<几千条）？ → 都先别动，few-shot + RAG 起步（微调数据不足收益不稳）。
迭代顺序纪律：Prompt 优化（零成本）→ few-shot + RAG（低成本）→ 微调（最后一张牌）。多数"我们要微调"的需求，最后被证明 RAG + 好的 Prompt 就够——微调是重武器，先证明轻武器不够再上。
💻 全栈开发专家
决策原则一句话：「知识」用 RAG，「行为」用微调，再按更新频率、数据量、可解释性验证。
逐维度对比（工程账）：
| 维度 | RAG | 微调 |
|---|---|---|
| 解决什么 | 知识时效、私有数据、可溯源 | 行为风格、格式遵循、领域话术 |
| 更新成本 | 分钟级（换文档） | 天级（重训+评测+发布） |
| 数据需求 | 有文档就行 | 千级高质量标注对 |
| 可解释性 | 可引用来源 | 黑盒 |
| 幻觉风险 | 低（有依据+可拒答） | 中（知识熔进权重，模糊时照样编） |
| 延迟 | 多一次检索 | 无额外检索 |
| 成本 | 检索+更长 prompt | 训练一次性+推理便宜 |
怎么选（场景速查）：
- 知识频繁变化（价格/政策/文档）→ RAG，微调注定过时；
- 需要引用溯源（合规/医疗/法务）→ RAG；
- 稳定的输出格式/话术/风格 → 微调（prompt 押不住 100%）；
- 高 QPS 降本（小模型替大模型）→ 微调；
- 延迟敏感（不能多一跳检索）→ 微调；
- 领域术语检索不准 → 微调 Embedding 模型（这是 RAG 和微调的交叉点，常被忽略）。
组合是常态（我们的客服系统）：RAG 管知识问答（每日更新+引用），SFT 微调管话术与拒答行为，Embedding 微调管领域检索——三层各司其职、独立迭代。
顺序建议：永远先 RAG+prompt 调到最优（便宜），确认瓶颈不在知识供给后再评估微调——「微调冲动」是团队最常见的过度工程。