【小目标】
确定要微调之后,先要回答"调多深":是把模型的所有参数整体重训(全参),还是只动一小块"增量参数"(PEFT)?这一节点就是在两者之间帮你做选择——选错会白烧算力,选对则又省、又快、还好回滚。
【方法论】
两条路线的取舍逻辑:
- 全参微调(Full Fine-Tuning):所有参数整体重训。效果上限高,但成本高(显存/算力/存储),且风险大——整体重调易发生灾难性遗忘(变笨、产生不可控偏移)。
- 参数高效微调(PEFT):只动一小块"增量参数"。参数量小、见效快、易回滚、可多版本并存——对领域风格、输出格式、特定话术这类多数适配需求,往往绰绰有余。
实现要点与边界:默认从 PEFT 起步;只有需要深度改变模型行为、或对质量与手上数据都有把握时,才考虑全参。无论哪条,微调后必须用评测兜底防变笨(评测做法见第六章)。
【知识点】
- 选型口诀:能用 PEFT 就别全参——多数适配需求 PEFT 绰绰有余。
- 安全底线:微调后不评测=白做;全参尤其易"灾难性遗忘",要用评测前后对比防退化。
【名词卡】
| 名词 | 一句话白话 |
|---|---|
| Full Fine-tuning|全参微调 | 把模型全部参数整体再训;效果上限高但贵、易"灾难性遗忘"、难回滚。 |
| PEFT|参数高效微调 | 只训练一小块增量参数的总称;成本低、见效快、易回滚、可多版本并存。 |
| Catastrophic Forgetting|灾难性遗忘 | 微调时把模型原本学会的能力"忘掉/变笨";全参尤易发生,须评测前后对比防退化。 |
| Adapter / 增量参数 | PEFT 里额外加入、只被单独训练的小块参数(LoRA 的低秩增量即其一)。 |
易混点:全参(调所有参数)≠ PEFT(只调增量参数)。
【练一练】
微观小实验(聚焦本节点,约 5 分钟):给"选 PEFT 还是全参"做一次快速取舍演练。
- 拿一个具体的适配目标(如"让客服话术更礼貌、带固定格式")。
- 用两条路线的特征各给一次判断:要不要动到"模型已学会的世界知识"?要不要"深度改变行为"?
- 验证:用一句话说清为何这类诉求 PEFT 足够、不必全参。