【小目标】
这一节点要回答:在基础模型之上,怎么用数据把模型调成"你产品的专属模型"。 价值在于——基础模型只擅长"通用应答",不会你的领域口径、话术、格式与业务流程;微调是把模型从"通才"调成"懂你的专才"的路径入口。先想清楚"要不要微调",再谈"怎么微调"。
【方法论】
先看一条"从零到专属"的训练谱系,微调只是其中一环:
预训练(海量语料学通用语言常识,资源重,多为厂商做)
↓
微调 SFT(用"指令-答案"标注数据,教它跟随指令/领域风格)
↓
对齐 RLHF/DPO(让输出符合人类偏好与安全底线)
↓
适配落地 PEFT/LoRA(在既有基座上加小增量,低资源适配) ← 产品侧最常做的一层
怎么读这张图:PEFT/LoRA 不是对齐之后又一步——它是实现"微调"这一环的省资源做法(所以常和 SFT 一起出现)。对产品实践,最常见的其实是"拿一个已对齐的开源基座,直接上 PEFT/LoRA 做小适配"。
选型第一逻辑:多数产品级适配,先用 RAG+提示词往往就够了,不必一上来就微调;只有 RAG/提示搞不定、或要深改行为/表达风格/领域术语时,才谈微调——判断标准看你要改的是"知识"(走 RAG)还是"说话风格/行为"(走微调)。
最容易混的一对——微调 vs RAG,务必分清:
| RAG(第四章) | 微调(本章) | |
|---|---|---|
| 改什么 | 改喂给模型的输入(临时注入外部知识) | 改模型整体权重(永久学进去) |
| 快慢 | 快、可随时更新 | 慢、更贵 |
| 适合 | 外部/私有/动态知识 | 改变表达风格、领域术语 |
| 结论 | 不是二选一,常结合用 |
【知识点】
- 谱系定位:预训练(学通用)→ 微调 SFT(学指令/风格)→ 对齐(学被接受)→ PEFT 落地(低资源适配);厂商把多数能力与对齐做进了基础模型。
- 要不要微调是头号判断:RAG+提示够用就别微调;微调改"表达风格/领域术语",RAG 改"喂的输入"——不冲突、常结合用。
【名词卡】
| 名词 | 一句话白话 |
|---|---|
| Fine-tuning|微调 | 用数据在基础模型上继续调整权重,让它适配领域/任务;与 RAG 并列的两条主路之一。 |
| SFT|监督微调 | 用"指令-答案"标注数据教模型跟随指令与领域风格,是产品调到自己的范围最常见手段。 |
| Alignment|对齐 | 让模型输出符合人类偏好与安全底线(RLHF/DPO)。SFT 教"怎么做对",对齐教"怎么做被接受"。 |
| RLHF|人类反馈强化学习 | 用人类偏好训练奖励模型再调优生成;效果强但工程复杂。 |
| DPO|直接偏好优化 | 绕开显式奖励模型、直接用偏好对优化生成,更简单稳定、更广被采用。 |
易混点:微调改"模型权重"(永久学进去)≠ RAG 改"喂的输入"(临时注入、快、可换)。
【练一练】
微观小实验(聚焦本节点,约 5 分钟):做一次"要不要微调"的选型判断。
- 写下你产品里一个"想让模型答得好"的真实诉求。
- 套判断口径走一遍:需要"多快好省地加私有/动态知识"→ 走 RAG;还是要"改说话风格/术语/输出格式"→ 才谈微调。
- 验证:用一句话给判断落结论(如"这个场景该走 RAG,因为要的是动态知识")。→ 练出"不盲目微调"的第一反应。