介绍几种常见的微调策略的优缺点

🏛 业务架构师

常见微调策略的优缺点我按业务选型来讲：

全量微调：优点是效果上限最高、能深度重塑模型行为；缺点是算力贵、数据需求大（十万级）、有灾难性遗忘风险、每个场景一份完整模型。适合：财大气粗且场景价值极高的核心业务。

LoRA：优点是成本低（不到 1% 参数）、小数据可训、适配器可插拔复用、遗忘风险小；缺点是"知识注入"能力弱（学风格不学知识）、复杂行为改造上限低于全量。适合：95% 的企业场景，默认起点。

QLoRA：LoRA + 4bit 量化基座。优点是单卡可跑、成本最低；缺点是训练速度慢 30% 左右，极端任务效果略降。适合：预算与设备受限、验证阶段。

多任务混训：把多个业务任务数据混合微调一个模型。优点是资源共享、互相正向迁移；缺点是任务间干扰需要调配比。适合：多业务线共用一个模型中台。

领域继续预训练 + SFT 两段式：先用领域语料继续预训练再指令微调。效果好但成本高，适合专业壁垒极深的行业（医疗、法律）。

我的决策树：QLoRA 验证 → LoRA 生产 → 效果不足且业务量撑得起再全量；知识类需求一律转 RAG。

微调策略的优缺点我按谱系对比，落脚点在选型：

全量微调：上限最高、能注入新知识。缺点：算力/显存巨大、易灾难性遗忘、每个任务一份完整模型副本（存储和版本成本高）。适合：大规模领域适配、有集群资源；
LoRA：省算力、可热插拔、保留底座通用能力、推理零额外延迟（合并权重）。缺点：注入新知识能力有限、秩和目标模块选择需要实验。90% 业务场景的默认答案；
QLoRA：LoRA + 4bit 量化底座，单卡训大模型。缺点：训练速度比 LoRA 慢（量化反算开销）、极致效果略逊。适合：算力受限、模型 >30B；
Adapter Tuning：效果稳、即插即用。缺点：推理多串行层、有延迟代价，已被 LoRA 架构性取代；
Prefix/Prompt Tuning：参数最少。缺点：占上下文、任务复杂时效果掉，适合超轻量适配；
RLHF/DPO 偏好对齐：改变行为偏好（安全、风格）。缺点：数据标注贵、训练不稳（DPO 比 RLHF 稳得多）。

我的组合拳：行为格式问题 → LoRA；知识注入 → RAG 或继续预训练 + LoRA 两段；对齐 → DPO；高 QPS 降本 → 小底座 + LoRA 替代大模型 API。单一策略打天下在这个领域不成立。

几种主流微调策略的优缺点，按工程决策视角：

全量微调：效果上限最高、能改写模型「世界观」；缺点是贵（多卡）、易灾难性遗忘、每任务一份 14GB+ 权重难维护。适合：预训练继续（CPT）、与基座分布差异极大的任务。
LoRA：性价比最优，参数少、训练快、可合并零推理开销、多任务热插拔；缺点是上限略低于全量，任务差异极大时 r 要开大。适合：95% 的业务微调场景。
QLoRA：LoRA 效果 + 4bit 基座，单卡可调 34B；缺点是训练速度慢 30% 左右、量化基座偶有掉点。适合：算力受限的团队——事实上很多团队「永远用 QLoRA」也没出过问题。
SFT（指令微调）：教格式和指令遵循，便宜直接；改不了知识储备（知识要用 RAG/CPT）。
DPO/RLHF（偏好对齐）：改善「像不像人话」、安全性和风格；工程重、需要成对偏好数据。DPO 已是工程默认，PPO 只有效果天花板确实值那个复杂度时才上。

组合拳心得：真实项目常是「CPT 灌领域词汇（可选）→ SFT 定格式行为 → DPO 调语气安全」。每一步都要有独立评测集，能不上就不上，微调链路越长，归因越难。