面经策

微调时出现过拟合怎么办？有哪些正则化方法可以使用？ ​

  • 标签：

🏛 业务架构师 ​

微调过拟合的识别与对策：训练 loss 持续降、验证 loss 回升，线上表现为"背题"——见过的问题答得溜，换个问法就垮。

正则化方法按优先级：

  1. 早停（最有效）：监控验证集指标，N 轮不升即停。LoRA 微调通常 1~3 个 epoch 就够，"多训几轮"多数情况是有害的；
  2. 数据正则（治本）：增加表述多样性——同一指令多种问法、多种回答风格；清洗重复与雷同样本；数据量与模型可训练参数匹配（LoRA r=8 时几千条高质量样本足够，堆量不如提质）；
  3. 容量正则：调小 LoRA 秩 r（16→8）、缩小目标模块范围——容量小了想背也背不进；
  4. 权重衰减：AdamW 的 weight_decay 0.01~0.1，抑制参数膨胀；
  5. Dropout：LoRA 旁路加 0.05~0.1；
  6. 标签平滑：分类任务减轻对硬标签的过度自信。

诊断纪律：训练时必须同时记录训练/验证两条曲线（只看训练 loss 等于闭眼开车）；用"扰动测试集"（同义改写的问题）检测泛化性。

业务视角：过拟合九成源于数据（少、窄、重复），调参是补救。我的行动顺序：先扩数据多样性 → 早停 → 降容量，三步做完还过拟合才动正则超参。反过来，若业务上就是需要"精确背诵"固定话术，适度过拟合反而是特性——正则化强度也要看业务目的，不是越泛化越好。

🏗 系统架构师 ​

微调过拟合我分识别 → 三层防线：

识别：train loss 持续下降 + eval loss 回升 = 拐点；测试集指标漂亮但线上新样本效果差 = 记住了训练集而非学会规律。先诊断再下药。

数据层（最有效）：

  • 控 epoch：LoRA 场景 1~3 epoch 足够，第 3 个 epoch 后基本是在背答案；
  • 去重与多样性：语义级去重（重复样本=变相加权）；指令与场景覆盖多样化，同质数据几万条不如多样数据几千条；
  • 数据分布对齐线上真实分布（从线上采样构造 eval set，而不是训练集切一块）。

训练层：

  • 早停（early stopping）：eval loss 回升即停——所以必须留验证集；
  • weight decay 0.01~0.1；label smoothing（分类任务）；
  • LoRA dropout 0.05~0.1；
  • 学习率过大也会导致模型"硬记"，1e-4 级（LoRA）不冒进；
  • NEFTune：嵌入层加噪声，实现简单效果好，SFT 场景值得默认开。

模型层：降低 LoRA 秩 r（容量即正则）；减少目标模块（全层→仅注意力）；数据极少时冻结更多层只训顶层。

架构纪律：固定一个 hold-out 测试集 + 通用能力回归集（防过拟合到领域后连基本能力都丢），每次训练双看——领域指标和通用指标一起进发布门禁。

💻 全栈开发专家 ​

微调过拟合的表现：train loss 持续降、eval loss 反弹，生成开始复读训练集句式、风格僵化、通用能力退化。

我按有效性排序的应对手段：

  1. 降 epoch + 早停（最有效最便宜）：SFT 通常 1~3 epoch 够，用 eval loss 做早停。第 5 个 epoch 还在「提升」基本是在背书；
  2. 数据治理（治本）：
    • 语义去重（Embedding 相似度聚类去重），重复样本等于加权记忆；
    • 多样性检查：按句式/主题分布采样，单一模板样本占比过高必过拟合；
    • 扩量优先于加正则——1 万条多样数据好过 3 千条反复训；
  3. LoRA 结构正则：r 别贪大（16~32），低秩约束本身就是强正则；lora_dropout 0.05~0.1；
  4. 优化器侧：weight decay 0.01~0.1；学习率偏小（LoRA 1e-4 量级）+ warmup + cosine；
  5. NEFTune：embedding 输出加噪声（neftune_noise_alpha=5），简单有效，指令微调常 +1~3 分；
  6. 标签平滑：分类任务 0.1；
  7. R-Drop / EMA：进阶手段，效果换复杂度。

诊断流程：先画 train/eval loss 双曲线定位分叉点 → 抽生成样本看是否复读训练集 → 若是数据问题走第 2 条，训练侧问题走 1/3/4。最后提醒：过拟合的正向检验是「留出集指标」，别拿训练集上的表现自嗨。