请解释大模型微调(Fine-tuning)的原理，并说明在什么业务场景下需要微调而不是直接使用基础模型？
- 标签：大模型
🏛 业务架构师
微调的原理：预训练模型已学到通用语言表征和能力，微调用领域数据（通常是指令-回答对）继续训练，调整部分或全部参数，把通用能力"定向强化"成业务需要的样子——学会的是任务范式、术语体系、输出风格，而非灌入事实知识。
什么业务场景需要微调而不是直接用基础模型，我给四条判断标准：
- 风格/格式强绑定：品牌话术、固定 Schema 输出（如必须输出特定 JSON 结构），提示词方案不稳定且上下文成本高，微调小模型反而又稳又便宜。
- 领域行话壁垒深：医疗、法律、金融、工业术语，通用模型理解偏差大，且有持续高质量领域数据可沉淀。
- 成本结构倒逼：某个高频简单任务（分类、抽取）用大模型 API 每年花费巨大，微调一个 7B 小模型私有化部署，总成本可降 80%+，量大摊薄微调投入。
- 数据不能出境：必须私有化部署，而开箱的小模型能力不够，需要微调补齐。
反过来，三种情况不要微调：想让模型"记住新知识"（用 RAG，知识要随时更新）；需求还在探索期（提示词调，微调迭代周期太长）；调用量小（任何微调投入都摊不回来）。我的决策链永远：提示工程 → RAG → 微调，每一步的成本和迭代速度都差一个量级。
🏗 系统架构师
微调原理：预训练模型已具备通用语言能力，微调是在其权重（或低秩增量）上，用领域数据继续做梯度下降，把模型行为拉向目标分布——本质是"在大模型先验上的迁移学习"。
什么场景必须微调而不是直接用基础模型/Prompt——我用四条判据：
- 稳定的输出格式与风格：Prompt 可以示范但不可靠（长指令遵循会漂移），微调把格式内化成行为，结构化输出合规率从 ~95% 提到 99%+，对下游是流水线的产品（数据抽取、工单分类）这是刚性需求；
- 领域术语与话术体系：法律、医疗、金融领域，通用模型用词不专业，few-shot 塞示例又占窗口且贵；微调后小模型可以稳定说"行话"；
- 成本敏感的高 QPS 任务：微调后的 7B 小模型替代大模型 API，单条推理成本降一个数量级——QPS 越高回收越快，这是经济账；
- Prompt 无法表达的隐性规则：几千条人工标注样本里蕴含的判断标准，写不成明确的 Prompt 规则。
不适用：需要频繁更新的知识（用 RAG）、长尾低频任务（few-shot 就够）、数据量凑不到几千条有效样本（微调收益不显）。架构上三者是组合关系：微调塑行为、RAG 供事实、Prompt 做最后的任务适配。
💻 全栈开发专家
微调原理：在预训练权重基础上，用领域/任务数据继续做梯度下降，把通用分布往目标分布拉——改变的是模型「怎么说话、怎么反应」，而不是往里面塞知识文件。
什么业务必须微调而不是直接用基础模型，我按真实项目经验分四类：
- 输出格式与行为强约束：API 返回必须稳定 JSON/固定话术，基础模型靠 prompt 押不住 100%，微调小模型能把解析成功率做到 99%+；
- 降本替换：调 GPT-4 级 API 每月几十万，攒够数据微调 7B 小模型自部署，成本降一到两个数量级——工单分类、意图识别这类窄任务最典型；
- 领域话术与风格：医疗/法律术语密度高、品牌语气固定，few-shot 塞不满需求；
- 延迟敏感端侧：本地小模型（1.5B~4B）必须微调才够用。
反过来，这些场景别微调：知识频繁更新（RAG）、需要溯源引用（RAG）、任务千人千面（prompt）、数据量 < 500 条（先攒数据）。
一句话决策：「知道什么」用 RAG，「怎么干活」才微调。我做的客服项目就是典型：知识库走 RAG 每日更新，话术和格式走微调，两条腿缺一不可。