【小目标】
这一节点回答两件事：为什么给原始文本做标注、让它变成"模型看得懂"的样子；以及当真实数据不够用、又太敏感时，怎么用合成数据造出更多训练素材。原因是：后面要做的微调、对齐、评测，全都建立在"机器能读懂、口径又统一"的标注数据之上——没有标注，这些环节一个都跑不起来。
【方法论】
主线 A——标注：难点不是"标得对不对"，而是"标得一不一致"。 理由：同一批数据，两个人标的结果如果差别很大，模型学到的是"你标你的我标我的"的那种混乱，而不是真正的规律。要做到一致，靠两条：
- 机器预标 + 人工抽检：先用模型/规则把大部分标掉提效率，再让真人按比例抽查把关——既省成本，又保证可信。
- 管好成本：标注很花钱，用"标注规范 + 抽检命中率"来控质量、控工期。宁可少而准，不要多而乱。
主线 B——合成数据（Synthetic Data）：真实数据不够时的另一条来源。 它专门解决真实数据"稀缺、太贵、太敏感"的问题，比如补足某些类别数量太少、冲淡掉里面的脏数据、或者拿到现实中根本不存在的训练语料。要注意两点：
- 怎么来：用生成模型或规则模板，按想要的分布"造"一批数据，然后回到 1.1.1 那套流程里走清洗、质检，再当下游的输入。
- 最大的坑是分布偏差：造的分布 ≈ 真实分布，不等于真实分布。模型可能"只认得造出来的那种话术，一遇到真人说话就不灵"。所以必须用少量真实样本做对照基准，把偏差校准回来。
【知识点】
- 一致性是标注的质量命门：标注规范写到多细、抽检率定多高、要不要"机器预标+人工把关"，直接决定这批数据最终的质量和花了多少钱。
- 合成数据利弊并存：能补稀缺、能冲淡脏数据，但"机器味、分布有偏差"是硬伤，必须用真实样本做对照基准。
【名词卡】
| 名词 | 一句话白话 |
|---|---|
| Annotation / Labeling｜标注 | 把无结构原始文本加工成模型可学的结构化素材（分类标签、语义字段、偏好对、标准答案），是 SFT/RLHF 的原料。 |
| 标注一致性｜质检指标 | 同一批数据多人标注应基本一致；不一致会让模型学到"随机噪声"而非规律。 |
| 人工抽检｜质检兜底 | 对机器预标结果按比例人工复核，兼顾效率与可信度；抽检命中率是可量化指标。 |
| Synthetic Data｜合成数据 | 用规则或模型"造出来"而非真实采集的训练/评测数据；真实数据稀缺/涉隐私时的另一条数据来源。 |
易混点：合成数据（造"新样"）≠ 数据增强（改造"旧样"）；人标（最准最贵）≠ 机器预标+人工抽检（效率与成本平衡）。
【练一练】
微观小实验（聚焦本节点，约 10 分钟）：抓一次"合成数据的机器味"，体会分布偏差。
- 打开任意大模型，命令它"扮演用户，用很口语的说法，就导购场景问一批多轮问题"，一次生成约 20 条。
- 扫一遍，标出其中"太书面、太完整、缺口语情绪"的样本。
- 验证：数一数"机器味重"占几成 → 回答"为什么合成分布 ≠ 真实分布，为何必须用少量真实样本当锚点"。→ 这直观复现本节点的"最大坑"。