常见的微调任务有哪些?
- 标签:大模型、AI、微调
🏛 业务架构师
常见的微调任务我按业务价值分类:
1. 指令微调(SFT)——最主流。教会模型"听懂指令并按要求回答",任务是行为塑造而非知识注入。企业场景:客服话术、固定格式报告生成。
2. 风格与语气对齐——让模型输出符合品牌人设(专业严谨的银行客服 vs 活泼的零售助手)。提示词也能做,但微调后更稳定、token 更省。
3. 格式约束类——强制输出特定 schema(JSON、SQL 方言、DSL),微调后小模型也能稳定达标,比在提示里塞大量格式说明省钱。
4. 领域适配——医疗术语理解、法律条文引用、金融研报语言,让通用模型"说行话"。
5. 分类与评分任务——情感分析、工单分类、内容风险打分,微调小模型(0.5B~7B)替代大模型,成本降 90% 以上,这是 2026 年最实用的批量微调场景。
6. 偏好对齐(RLHF/DPO)——调整"哪个回答更好"的偏好,用于提升人工标注满意率。
我的业务忠告:凡是想让模型"记住知识"的需求,答案基本是 RAG 而不是微调——知识要随业务更新,微调一次几周,RAG 改文档五分钟。微调管"能力与风格",RAG 管"知识与事实",这条边界想清楚,能省一半无效预算。
🏗 系统架构师
微调任务我按目标类型分四类,每类配典型业务场景:
- SFT 指令微调(监督微调):教模型"听懂指令并按要求回答"。任务数据是 instruction→response 对。场景:客服话术、特定格式输出(JSON/工单)、领域问答风格统一。这是占比最大的一类;
- 偏好对齐类:RLHF/DPO,用"好答案 vs 坏答案"的偏好对训练,让模型输出贴近人类/业务偏好。场景:内容安全对齐、品牌语气、拒绝有害请求;
- 领域适配类:医疗、法律、金融、代码等领域语料继续预训练(Continual Pre-training)+ SFT 两段式。场景:私有领域术语密集、通用模型理解偏差大的垂直产品;
- 任务特化类:分类/抽取/纠错等单一任务微调——小模型特化后可替代大模型,成本降一个量级。场景:工单分类、情感分析、NER、日志解析。
架构师视角的决策框架:先问"这是知识问题还是行为问题"——知识问题优先 RAG(可更新、可溯源);行为/格式/风格问题才微调;任务单一且 QPS 高时,微调小模型(如 7B 微调替代 GPT-4 调用)是成本优化的经典手段,单条推理成本从毫厘级降到自托管 GPU 摊销的微厘级。
💻 全栈开发专家
按我在业务里碰过的微调任务分五类:
- SFT 指令微调(最常见):教模型「听懂指令、按格式回答」。数据是 instruction-response 对,客服话术、结构化抽取、固定文风输出都属于这类。
- 领域适配 / 继续预训练(CPT):拿领域语料(医疗指南、法条、公司文档)继续做语言建模,灌领域词汇和知识。成本高,只在术语密度极高时做。
- 分类与信息抽取:文本分类、NER、情感分析、意图识别。通常微调小模型(BERT 系/Qwen-0.5B)替换昂贵的 LLM API,是「降本项目」主力。
- 风格/偏好对齐:RLHF、DPO,让输出更符合人类偏好——更有用、更安全、更简洁,或对齐品牌语气。
- 多模态微调:图文理解(VQA)、图文生成的领域适配,微调 projector 或 LoRA 部分。
选型心得:先问「这个需求 RAG + 提示工程能不能解决」——知识型需求优先 RAG(可更新、可溯源);行为型需求(输出格式、风格、小模型降本)才值得微调。比如我们做的工单自动分类:LLM few-shot 起步 → 攒够 5 万标注 → 蒸馏微调 Qwen-1.5B 上线,单条成本从 3 分降到几乎为零。这个「LLM 起步、微调收口」的路径很典型。