【模型训练与微调-1】预训练 vs 微调:先想清楚"要不要微调"

· 分类:工程上手

这一节点要回答:在基础模型之上,怎么用数据把模型调成"你产品的专属模型"价值在于——基础模型只擅长"通用应答",不会你的领域口径、话术、格式与业务流程;微调是把模型从"通才"调成"懂你的专才"的路径入口

【小目标】

这一节点要回答:在基础模型之上,怎么用数据把模型调成"你产品的专属模型"。 价值在于——基础模型只擅长"通用应答",不会你的领域口径、话术、格式与业务流程;微调是把模型从"通才"调成"懂你的专才"的路径入口。先想清楚"要不要微调",再谈"怎么微调"。

【方法论】

先看一条"从零到专属"的训练谱系,微调只是其中一环:

预训练(海量语料学通用语言常识,资源重,多为厂商做)
   ↓
微调 SFT(用"指令-答案"标注数据,教它跟随指令/领域风格)
   ↓
对齐 RLHF/DPO(让输出符合人类偏好与安全底线)
   ↓
适配落地 PEFT/LoRA(在既有基座上加小增量,低资源适配)   ← 产品侧最常做的一层

怎么读这张图:PEFT/LoRA 不是对齐之后又一步——它是实现"微调"这一环的省资源做法(所以常和 SFT 一起出现)。对产品实践,最常见的其实是"拿一个已对齐的开源基座,直接上 PEFT/LoRA 做小适配"。

选型第一逻辑:多数产品级适配,先用 RAG+提示词往往就够了,不必一上来就微调;只有 RAG/提示搞不定、或要深改行为/表达风格/领域术语时,才谈微调——判断标准看你要改的是"知识"(走 RAG)还是"说话风格/行为"(走微调)。

最容易混的一对——微调 vs RAG,务必分清:

RAG(第四章) 微调(本章)
改什么 改喂给模型的输入(临时注入外部知识) 改模型整体权重(永久学进去)
快慢 快、可随时更新 慢、更贵
适合 外部/私有/动态知识 改变表达风格、领域术语
结论 不是二选一,常结合用

【知识点】

  • 谱系定位:预训练(学通用)→ 微调 SFT(学指令/风格)→ 对齐(学被接受)→ PEFT 落地(低资源适配);厂商把多数能力与对齐做进了基础模型。
  • 要不要微调是头号判断:RAG+提示够用就别微调;微调改"表达风格/领域术语",RAG 改"喂的输入"——不冲突、常结合用。

【名词卡】

名词 一句话白话
Fine-tuning|微调 用数据在基础模型上继续调整权重,让它适配领域/任务;与 RAG 并列的两条主路之一。
SFT|监督微调 用"指令-答案"标注数据教模型跟随指令与领域风格,是产品调到自己的范围最常见手段。
Alignment|对齐 让模型输出符合人类偏好与安全底线(RLHF/DPO)。SFT 教"怎么做对",对齐教"怎么做被接受"。
RLHF|人类反馈强化学习 用人类偏好训练奖励模型再调优生成;效果强但工程复杂。
DPO|直接偏好优化 绕开显式奖励模型、直接用偏好对优化生成,更简单稳定、更广被采用。

易混点:微调改"模型权重"(永久学进去)≠ RAG 改"喂的输入"(临时注入、快、可换)。

【练一练】

微观小实验(聚焦本节点,约 5 分钟):做一次"要不要微调"的选型判断。

  1. 写下你产品里一个"想让模型答得好"的真实诉求。
  2. 套判断口径走一遍:需要"多快好省地加私有/动态知识"→ 走 RAG;还是要"改说话风格/术语/输出格式"→ 才谈微调。
  3. 验证:用一句话给判断落结论(如"这个场景该走 RAG,因为要的是动态知识")。→ 练出"不盲目微调"的第一反应。

相关文章