【小目标】
这一节点回答最基础的一个问题：**数据是怎么决定模型好不好用的？**也就是一块乱糟糟的原始数据，怎么被收拾成"机器能学"的样子。
这里最关键的一句判断：**模型不会凭空变聪明，它学到的就是喂进去的数据。**数据干净、有规律，学出来的就是干净、靠谱的本事；图省事塞进乱码、错别字、自相矛盾的"垃圾"，它就会把这些"垃圾"当作真理学下去，回答里也全是同样的毛病——这就是"垃圾进、垃圾出"。
对做产品的人来说，数据还有另一层分量：它是最贵、最难攒、又最容易踩合规红线的家底——真实数据买不到、攒得慢、还牵涉隐私；可一旦攒成体系，就是别人很难抄走的护城河。所以当模型表现不对，先怀疑数据、再怀疑模型——大多数情况下，问题出在数据。
【方法论】
一句话结论：**数据决定模型的上限，先洗质、再谈规模。**意思是，与其急着堆更多数据，不如先把已有的数据洗干净——算力再强、模型再新，也补不回"喂进去的是垃圾"这个硬伤。
具体走一条数据供给管线，前面任何一环出错，后面全白做：
① 采集/获取（爬取、委托、开源、用户生成）
↓ ② 清洗与去重 去噪：删乱码/错乱/无意义；去重：删近似重复
↓ ③ 标注/结构化 打分类标签、填语义字段、标好坏/偏好对、写标准答案
↓ ④ 质检与一致性 定一套标准，同一份料两个人标得出同一结果
↓
进入下游 → 训练(见第二章) / RAG 检索库(见第四章) / 评测集(见第六章评测与观测)
管线上最容易掉进去的"坑"，就是下面四类关键动作：
- 去重（Dedupe）：近似重复的样本会让模型只记住一种说法、还白费算力。
- 去噪（Denoise）：乱码、错乱、无意义碎片，按规则或启发式滤掉。
- 去敏感与合规（Sanitize）：个人隐私、版权、涉政涉敏内容，入库前先做一遍安检。
- 质检（QC）：做一致性校验 + 人工按比例抽检，作为数据质量的可观测指标。
【知识点】
- 质量优先于数量：质量决定数据"干不干净、能不能学"，数量决定"够不够用"。别贪多——一份干净的小样本，常常好过一大堆又脏又乱的大样本。
- 以数据为中心（Data-Centric AI）：与其拼命堆量，不如先把现有数据洗干净。做得好不好，看它喂出来的模型/评测是否变好——别只看数据自己"看起来不错"。
- 供给管线一环也不能错：从采集、清洗、标注到质检，前面一环错，后面全都白做。
【名词卡】
| 名词 | 一句话白话 |
|---|---|
| Data Quality｜数据质量 | 数据够不够"干净、一致、无偏、可学"。数据不干净，模型会把脏东西当成规律学进去，回答就会出错。 |
| Data-Centric AI｜数据为中心 | 与其堆量，不如先把数据洗干净——因为数据质量决定模型能学到什么上限。 |
| Data Cleaning/Dedup｜清洗与去重 | 去噪（删乱码/错乱/无意义内容）+ 去重（删近似重复样本）。先洗质、再谈规模。 |
| Data Augmentation｜数据增强 | 在已有真实样本上做增删改写来扩充数据量。（≠ 合成数据：增强是改旧样本，合成是造新样本） |
易混点：数据质量（管"干不干净、能不能学"）≠ 数据规模（管"够不够用"）——先质后量；清洗（"删掉脏的"）≠ 标注（"加上机器能读懂的结构"）。
【练一练】
微观小实验（聚焦本节点，约 10 分钟）：亲手跑一遍供给管线的清洗段，体会"垃圾进"如何变"相对干净"。
- 取一份手头的原始短文本（如会议纪要、一段客服聊天记录）。
- 人工去噪：标出/删掉乱码、语无伦次、无意义碎片，数一数删了几条。
- 再去重：找出"同一意思说了两遍"的近似重复段落，保留一份、记录去处。
- 验证：重读清洗后的文本，回答"同一问题再答的一致性是否明显变好"。→ 这为下节「标注一致性」为什么必须建立在干净料之上，埋下直观印象。