AI 领域名词大全

一批按序排列的数字，代表一个样本/一个点。直觉：一个样本的"属性清单"。→ 详见【知识】"一、线性代数"

一张数字方阵/表，多行向量组合。直觉：一批样本或一层网络权重；深度学习"重"在堆这些矩阵。→ 详见【知识】"一、线性代数"

两个向量逐位相乘再求和，衡量"方向接近度/像不像"。直觉：两个向量越同向，点积越大。→ 详见【知识】"一、线性代数"

把文本/词/图片映射成高维向量，使语义相近者距离就近。是语义检索、推荐、注意力的共用底座。（另见于 [[RAG 检索增强【知识】]] 名词）→ 详见【知识】"一、线性代数"

一个向量含几个分量。直觉：表征的"刻度数"，不是"本事"本身。→ 详见【知识】"一、线性代数"

一个变量动一小点、结果变多少，并给出"上升/下降方向"。直觉：变化率。→ 详见【知识】"二、微积分与优化"

多个参数各方向偏导合成的向量，指向"损失上升最快的方向"；反向走即下降。直觉：下山的"最陡坡方向"。→ 详见【知识】"二、微积分与优化"

多参数时只看其中某一位变化、其余固定的变化率；是梯度分量的来源。→ 详见【知识】"二、微积分与优化"

沿梯度反方向一步步行进、逼近损失最小点的优化算法——AI 训练最骨子的算法。→ 详见【知识】"二、微积分与优化"

优化每步的步长。太大震荡/冲过谷底，太小龟速；最常见的调参之一。→ 详见【知识】"二、微积分与优化"

把误差从输出端"逐层往回传"的求导规则；是反向传播的本质。→ 详见【知识】"二、微积分与优化"

损失曲面上"当地看起来最低"的点，未必全局最优；对多数任务够用。→ 详见【知识】"二、微积分与优化"

描述一个变量"每个取值有多可能"的规则。直觉：模型的本质就是拟合一个分布。→ 详见【知识】"三、概率与统计"

在"已知 B 发生"前提下 A 发生的概率 P(A|B)。直觉：LLM 预测下个词就是 P(词|上文)。→ 详见【知识】"三、概率与统计"

用新证据更新旧信念的框架，由先验＋似然得后验。是很多校准/评估想法的源头。→ 详见【知识】"三、概率与统计"

在给定的模型假设下，观察到当前数据的"合理程度"。直觉：越大越说明假设与数据合拍。→ 详见【知识】"三、概率与统计"

先验=动手前的信念分布；后验=看过数据后的更新分布。→ 详见【知识】"三、概率与统计"

模型给自己的输出打的"概率分"；注意高置信不等于正确。→ 详见【知识】"三、概率与统计"

一个事件自带的"不确定量/信息量"。直觉：熵大=越没谱。→ 详见【知识】"四、信息论"

模型预测分布与真实分布的差距度量；**分类任务与 LLM 训练的默认损失函数**。→ 详见【知识】"四、信息论"

语言模型"有多会预测下一个词"的传统指标，由交叉熵指数化而来；低=更会接，但不等于"说得对"。→ 详见【知识】"四、信息论"

联合=多个变量一起发生的概率；边缘=对其它变量求和/积分后单个变量的概率。→ 详见【知识】"三、概率与统计"

给"数据+人工标签"，学"输入→输出"映射。直觉：老师给标准答案教。→ 详见【知识】"一、学习范式"

只有数据、无标签，自动找结构/聚类/降维。直觉：自己逛市场分门别类，没人事先标。→ 详见【知识】"一、学习范式"

从数据内部自己造"标签"来练。LLM 用"预测下一个 token"当标签——大模型能力来源。→ 详见【知识】"一、学习范式"

监督学习两大任务：分类=把输入归到离散类别；回归=预测连续数值。→ 详见【知识】"一、学习范式"

监督学习中与输入配对的"标准答案"。直觉：正确答案。→ 详见【知识】"一、学习范式"

数据的真实标准答案（标签）。训练/评测都拿它当"对错"基准。→ 详见【知识】"一、学习范式"

量化"模型错了多少"的函数；分类默认交叉熵、回归默认均方误差。直觉：错的度量，越小越好。→ 详见【知识】"二、损失与优化"

按梯度更新参数的工具，梯度下降是基础、Adam 等自适应步幅。直觉：调步行走的动作。→ 详见【知识】"二、损失与优化"

整个训练集完整过一遍模型 = 一个 epoch。直觉：把教材从头到尾刷一遍。→ 详见【知识】"二、损失与优化"

一次更新前喂给模型的一小批样本。批量大小=稳定 vs 震荡的开关。→ 详见【知识】"二、损失与优化"

优化器执行一次参数更新的步骤。直觉：走一步。→ 详见【知识】"二、损失与优化"

学到"规律"并迁移到新数据的能力——机器学习的真正目标。→ 详见【知识】"三、泛化"

把训练数据"背下来"，新数据表现差。直觉：背答案、不会做题。→ 详见【知识】"三、泛化"

训练数据都没学好。直觉：题目都不会。→ 详见【知识】"三、泛化"

验证集性能不再提升就停止训练，简单有效的防过拟合手段。→ 详见【知识】"三、泛化"

（权重衰减、Dropout 等）限制模型自由度、防止背答案的手段集合。→ 详见【知识】"三、泛化"

对样本做变换生成更多"噪声样例"，提升泛化。→ 详见【知识】"三、泛化"

训练集用来学、验证集用来挑超参数防过拟合、测试集用来最终评估"没见过的表现"。→ 详见【知识】"三、泛化"

最基础的监督回归/分类模型。直觉：一条线/一条分界线的拟合。→ 详见【知识】"一、学习范式"

经典机器学习分类器：决策树按规则逐层分叉，SVM 找最优分界边界（现多被神经网络取代主流，但理解概念有帮助）。→ 详见【知识】"一、学习范式"

无监督聚类代表：把数据自动分成 K 组。直觉：k 记号分组。→ 详见【知识】"一、学习范式"

多层"加权求和＋非线性激活"的单元叠加，是深度学习的基本结构载体。→ 详见【知识】"一、网络结构与前向"

给加权求和结果加"非线性"的函数（ReLU/Sigmoid 等）；没有它，网络再深也是线性、表达能力有限。→ 详见【知识】"一、网络结构与前向"

一层=一组神经元的矩阵运算；隐藏层介于输入输出之间，堆深=深度学习"深"的来源。→ 详见【知识】"一、网络结构与前向"

数据从输入层逐层算出输出/损失的过程；LLM 生成就是多次前向。→ 详见【知识】"一、网络结构与前向"

网络逐层把输入抽象成更高级语义表征（浅层低维特征→深层抽象语义）的能力。→ 详见【知识】"一、网络结构与前向"

网络中可被训练调优的数字（连接强度）。参数量提示表达能力（见规模定律）。→ 详见【知识】"一、网络结构与前向"

把"前向算子 + 反向求导"链接起来的数据结构，是框架自动求梯度与反向传播的实现载体。→ 详见【知识】"二、反向传播与梯度下降"

用链式法则从输出端把误差一路传回各层、高效求梯度的算法——训练的引擎。→ 详见【知识】"二、反向传播与梯度下降"

每次用一小批样本算梯度并更新的基础优化算法（随机=用部分样本近似）。→ 详见【知识】"二、反向传播与梯度下降"

自适应各参数步幅的现代优化器（AdaM/Momentum 思路），更快更稳，是当下训练默认。→ 详见【知识】"二、反向传播与梯度下降"

参数每步更新的步长；太小慢、太大会振荡/发散。→ 详见【知识】"二、反向传播与梯度下降"

让模型可"动态关注重要部分"的加权融合机制；长距离依赖与并行处理的来源。→ 详见【知识】"三、注意力与 Transformer"

对同一序列内部做注意力：用 token 彼此相似度加权更新表示。→ 详见【知识】"三、注意力与 Transformer"

自注意力给每个 token 生成的三份表示：Q·K 相似度定"该关注谁"，加权 Value 得新表示。→ 详见【知识】"三、注意力与 Transformer"

多个注意力头并行、各看不同关系后合并——增强表达能力。→ 详见【知识】"三、注意力与 Transformer"

给 token 附加次序信息（顺序对语言很重要），让自注意力感知先后。→ 详见【知识】"三、注意力与 Transformer"

由"多头注意力 + 多层堆叠"构成的骨干架构，几乎所有当前大模型（LLM/VLM）的基础。→ 详见【知识】"三、注意力与 Transformer"

Decoder 逐字生成时"只看已生成的、不看未来"的限制手段。→ 详见【知识】"三、注意力与 Transformer"

缓存已算好的 Key/Value 以加速逐 token 自回归生成（推理侧优化）。→ 详见【知识】"三、注意力与 Transformer"

传统骨干：CNN 擅长图像局部特征、RNN/LSTM 是旧式序列模型（长依赖衰减，已被 Transformer 取代主流）。→ 详见【知识】"三、注意力与 Transformer"

Encoder 提取输入表示、Decoder 逐字生成输出的两大块；Transformer 可作 encoder-only / decoder-only / encoder-decoder 组合。→ 详见【知识】"三、注意力与 Transformer"

基于 Transformer、在大规模语料上预训练、能对话与推理的语言模型。直觉：通才型"语言+世界知识"基座。→ 详见【知识】"这个领域在解决什么问题"

模型处理的最小文本单元（可能是词/子词/字符）。直觉：模型"一个个读"的原子。→ 详见【知识】"一、自监督预训练"

模型单次要处理的 token 上限。直觉：它"一次能看多长"，越长越贵。→ 详见【知识】"一、自监督预训练"

预训练好、可被下游微调/接续使用的通用大模型。直觉：毛坯，需二次加工成可用。→ 详见【知识】"一、自监督预训练"

在大规模语料上做自监督"下一 token 预测"以学得世界知识与语言规律的无监督阶段。→ 详见【知识】"一、自监督预训练"

逐 token 生成、每一步以上一步已生成内容为条件的生成方式（LLM 骨干）。→ 详见【知识】"一、自监督预训练"

用"预测下一个词"造标签的自监督训练目标——大模型一切能力的起点。→ 详见【知识】"一、自监督预训练"

模型学到信息的截止日期；之后的新信息/私域信息模型天然不知。→ 详见【知识】"一、自监督预训练"

在预训练后，用特定数据继续训练，让模型适配具体任务/风格/领域。（工程走 [[模型训练与微调【知识】]]）→ 详见【知识】"二、人类对齐"

用"指令-期望输出"样本教模型学会按指令作答的第一步对齐。→ 详见【知识】"二、人类对齐"

训练奖励模型（人工排序打分）+强化学习（PPO）让模型学"哪种回答更受人类欢迎"。→ 详见【知识】"二、人类对齐"

无需奖励模型/强化学习的简化对齐：直接对偏好做优化，更省、应用广。→ 详见【知识】"二、人类对齐"

RLHF 常用的强化学习更新算法。直觉：让模型输出的"收益（人类偏好分）"最大化。→ 详见【知识】"二、人类对齐"

让模型行为向"人类指令与偏好（有用+无害+诚实）"收敛的一整套调优。直觉：驯化顶嘴的模型。→ 详见【知识】"二、人类对齐"

RLHF 里给人机输出打分、反馈"多受欢迎"的判别模型。→ 详见【知识】"二、人类对齐"

模型表现随参数/数据/算力近似幂律平滑变好；可预测投入产出、但成本指数级上升。→ 详见【知识】"三、规模定律与能力涌现"

某些能力（数学/代码/多步推理）到规模后才突变式出现（有评测假象争议）。→ 详见【知识】"三、规模定律与能力涌现"

不（或极少）微调，靠提示词里的示例/指令直接完成任务的能力（GPT-3 主打卖点）。→ 详见【知识】"三、规模定律与能力涌现"

模型生成与事实不符的内容。预训练"预测顺"≠"说得对"的体现之一；它不因对齐而根除。→ 详见【知识】"一、自监督预训练"

能从"分布/噪声"造出全新样本（图/音/文/视频）的模型总称。直觉：照着规律"凭空出新料"。→ 详见【知识】"一、谱系"

逐 token 生成、每次以已生成内容为条件；文本/序列的主流范式（GPT 系）。→ 详见【知识】"一、谱系"（文本侧见 [[大语言模型原理【知识】]]）

把数据压到低维隐变量再解码重建的生成模型；稳健但画像偏模糊。→ 详见【知识】"一、谱系"

生成器 vs 判别器互相博弈对抗的生成模型；快但难训、易模式崩塌（早期图像主流）。→ 详见【知识】"一、谱系"

用"反复去噪从噪声还原"生成样本的模型；图像/视频当下默认主流。→ 详见【知识】"一、二"

在压缩后的低维"潜空间"做扩散，省算力的扩散实现（Stable Diffusion 基座）。→ 详见【知识】"二、扩散"

训练时把真实图逐步加噪、直至变成随机噪声的过程。→ 详见【知识】"二、扩散"

推理时从随机噪声按反向步骤一步步去噪、还原出清晰图的过程。→ 详见【知识】"二、扩散"

模型从带噪输入里"猜回原始清晰内容"的本领，是扩散训练的核心目标。→ 详见【知识】"二、扩散"

去噪迭代的步数与节奏；步数越多越精细但越慢——质量 vs 成本的旋钮。→ 详见【知识】"二、扩散"

让生成过程受外部条件（如文本/类别/参考图）约束的生成方式（文生图即其一）。→ 详见【知识】"三、条件与管线"

控制"生成该多贴近提示词"的引导强度：越高越贴 prompt、越低越自由。→ 详见【知识】"三、条件与管线"

"一句提示词 → 一张图"的管线：文本编码 → 扩散去噪 → 图像。→ 详见【知识】"三、条件与管线"

在图像扩散上加时间维度、逐帧去噪生成视频；跨帧一致性与运动语义是难点。→ 详见【知识】"三、条件与管线"

把提示词与图像都映射到同一语义空间的一环，让人与图"对齐"（如 CLIP）。→ 详见【知识】"三、条件与管线"

驱动条件生成的自然语言输入；品质直接影响生成结果。→ 详见【知识】"三、条件与管线"

把低分辨率结果放大、精修成最终成品的管线收尾环节。→ 详见【知识】"三、条件与管线"

让机器"听懂"人话的任务族总称：意图识别、实体抽取、语义匹配、信息抽取等理解类能力，是对话/搜索/入库的输入侧地基。对应"读懂输入"。（教材 SLP）

用户一句话被归类到的预设业务动作（如"查订单""转人工"）。是对话路由的开关，也是对话系统第一道分流。（详见 [[自然语言理解【知识】|【知识】主体一节 意图识别]]）

把整句映射到预设意图标签集合的过程。核心认知：**意图集合是产品设计的**，边界靠业务定义，识别后做路由与兜底。（→ [[自然语言理解【知识】|【知识】主体一节]]）

把一句话里的**业务字段值**提取出来填进预设槽位（如"日期=3号""颜色=红色"），是多轮对话逐步补齐参数、让任务可执行的关键。（→ [[自然语言理解【知识】|【知识】主体二节]]）

识别文本中的专有名词（人名/地名/机构/产品名）及其类别。易混注意：它抽**通用专名**，业务字段抽取叫槽位填充。（→ [[自然语言理解【知识】|【知识】主体二节 实体抽取]]）

从非结构化文本中抓出"有具体含义的要素"（商品属性、数值、约束），供下游拼检索/筛选条件。口语变字段的一步。（→ [[自然语言理解【知识】|【知识】主体二节]]）

把两句话映射为向量比距离、打"意思相关与否"的分数。是 FAQ 命中、检索、查重、标签去重的基础，也是检索召回的理论同行（→ [[RAG 检索增强【知识】]]）。（→ [[自然语言理解【知识】|【知识】主体三节]]）

不靠字面关键词、靠语义近似从库里捞相关内容，用户换说法也能命中。（详见 [[RAG 检索增强【知识】|RAG 【知识】检索配回]]）

从文本抽取结构化内容（实体-关系-属性三元组），支撑知识图谱构建与问答，是"让 LLM 从阅读转向入库"的加工能力。（→ [[自然语言理解【知识】|【知识】主体三节]]）

强制模型按预设 schema 输出固定格式（JSON），让自由文本变程序可消费数据。（详见 [[生成与对话【知识】|生成与对话【名词】]]，机制在 [[生成与对话【知识】|【知识】]]）

把词/句映射成高维数字向量、语义相近则向量近，是语义相似度/检索的地基（扩展见 [[知识表示检索与推理【知识】]] 的向量表示）。（→ [[知识表示检索与推理【知识】|知识表示检索与推理【知识】]]）

判断"一个句子是否被另一句所蕴含"，是分类、抽取类任务的上游能力。（→ [[自然语言理解【知识】|【知识】主体三节 信息抽取]]）

模型逐 token 预测、把下一个词接上去生成文本的机制（GPT 系范式根基）。因是概率选择而**天然不确定**——同样输入可能不同输出（→ [[生成与对话【知识】|【知识】主体一节]]）。

从概率分布里挑词的方式，通过温度/top-p/top-k 等旋钮决定"稳或活"。（→ [[生成与对话【知识】|【知识】主体一节]]）

控制生成随机性的参数：温度越低越稳/可预测，越高越多样/发散。结构化任务用低温求稳，创意用高温求活。（→ [[生成与对话【知识】|【知识】主体一节]]）

按累计概率截断候选词集合再采样的策略，配合温度控制"从哪些词里选"。亲：降低胡说的"热"又保留多样性。一手：Holtzman et al.（arXiv:1904.09751）。（→ [[生成与对话【知识】|【知识】主体一节]]）

固定取概率最高前 k 个候选再采样的限制。"从前几个里选"。（→ [[生成与对话【知识】|【知识】主体一节]]）

把模型的概率输出一步步转成最终文本的生成过程，约束解码/采样参数都作用于这一阶段。（→ [[生成与对话【知识】|【知识】主体一节]]）

模型一次能"看得见"的输入 token 上限。窗口长≠用得好：越长越贵、越易注意力分散（lost-in-the-middle），正确姿势是检索注入。（见 [[RAG 检索增强【知识】]]）（→ [[生成与对话【知识】|【知识】主体二节]]）

模型处理文本的基本单位（可理解为"词/子词碎片"），成本与延迟按 token 计。（→ [[生成与对话【知识】|【知识】主体二节]]）

长上下文里模型对"中间位置"信息利用变差的实验现象，是"别硬塞全文"的依据。（Liu et al., arXiv:2307.03172）（→ [[生成与对话【知识】|【知识】主体二节]]）

用检索只把最相关片段注入上下文，弥补上下文窗口/成本限制的正确长文本姿势。详见 [[RAG 检索增强【知识】]]。

对话开头设置角色/规则/边界/格式的指令，约束模型全局行为（产品化见 [[Prompt与Agent产品化【知识】]]）。（→ [[生成与对话【知识】|【知识】主体三节]]）

模型服从用户/系统指令完成指定任务的能力，是"按规矩办事"的基础（锚定 InstructGPT, arXiv:2203.02155）。（→ [[生成与对话【知识】|【知识】主体三节]]）

强制模型按预定义 schema 输出固定格式（JSON），使结果可被程序直接消费，无需再解析自由文本。与"请用 JSON 回复"的提示词软约束不同，多为引擎级硬约束。（→ [[生成与对话【知识】|【知识】主体三节]]）

让模型输出"调哪个工具、传什么参数"的结构化意图，由外部系统真实执行；是 LLM 对接外部世界、支撑 Agent 的开关。（→ [[生成与对话【知识】|【知识】主体三节]]、[[Agent 系统工程【知识】]]）

给出少量示例让模型学会某任务/格式，通常比空讲规则更有效。（→ [[生成与对话【知识】|【知识】主体三节]]）

模型生成与事实不符的内容；生成侧天然风险的产物，靠约束/检索/评测抑制（详见 [[幻觉事实性与时效性【知识】]]）。

把整图归到某个类别（这是猫/车）。视觉任务里最粗的一级。（→ [[视觉感知与生成【知识】|【知识】主体一节]]）

找出图中"有哪几个物体、各自在哪个框里"（坐标+类别）。比分类多"位置"。（Faster R-CNN 经典：arXiv:1506.01497）（→ [[视觉感知与生成【知识】|【知识】主体一节]]）

按像素把每个物体或语义区域精确圈出，是更细的"哪一块"。实例分割分得清"每一个"，语义分割只分"这一类"。Mask R-CNN（arXiv:1703.06870）。（→ [[视觉感知与生成【知识】|【知识】主体一节]]）

把图片里的文字识别成可编辑文本；版面分析再把文档/表格结构结构化。办公/生产最常用。（→ [[视觉感知与生成【知识】|【知识】主体一节]]）

在 OCR 基础上进一步分清文档的标题/段落/表格结构，支撑"文档进结构化"。（→ [[视觉感知与生成【知识】|【知识】主体一节]]）

目标检测类任务的经典评测指标，综合考虑"检没检对"与"框得准不准"。（→ [[视觉感知与生成【知识】|【知识】评测节]]）

衡量两个框/区域重叠程度的比例，检测与分割评测的基础。（→ [[视觉感知与生成【知识】|【知识】评测节]]）

文字提示直接生成图像的扩散式方法。提示质量+步数/匹配引导决定贴合度。（→ [[视觉感知与生成【知识】|【知识】主体二节]]）

给参考图做局部修改/换风格/修复/超分，保证原图结构一致性。（→ [[视觉感知与生成【知识】|【知识】主体二节]]）

控制生成向"匹配提示"倾斜的强度参数，提示相关度的关键刻度。（→ [[视觉感知与生成【知识】|【知识】主体二节]]）

指定"不想出现什么"（如水印/畸形）来约束生成结果，配合种子可复现做 A/B。（→ [[视觉感知与生成【知识】|【知识】主体二节]]）

固定的随机初始值，让同一提示可复现同一结果，批量打样/对比的利器。（→ [[视觉感知与生成【知识】|【知识】主体二节]]）

在图像扩散上扩展时间维度做多帧滚动生成。成本高、难保持一致。（→ [[视觉感知与生成【知识】|【知识】主体三节]]）

视频生成里"前后帧人物/场景是否连贯"的质量维度，比单帧好看更重要。(→ [[视觉感知与生成【知识】|【知识】主体三节]]）

文生图/视频的底层生成范式：从噪声一步步"去噪"还原出图。原理详见 [[生成式模型与扩散【知识】]]。（→ [[生成式模型与扩散【知识】]]）

把低分辨率小图放大并补出细节，是内容生产常用后处理。（→ [[视觉感知与生成【知识】|【知识】主体二节]]）

把语音转成文本的任务。客服转写、字幕、语音搜索的地基。（Whisper 代表：arXiv:2212.04356）（→ [[语音识别与合成【知识】|【知识】主体一节]]）

语音识别质量的经典指标：识别错/漏/增的词占比，越低越好。中文常看 **CER（字错误率）**。（→ [[语音识别与合成【知识】|【知识】主体一节]]）

边说边增量识别，不必等整句说完；是实时对话/语音助手的关键。（→ [[语音识别与合成【知识】|【知识】主体三节]]）

判断"是谁在说"，属独立于 ASR 的任务（不是转文字）。VoxCeleb / ECAPA-TDNN 经典。（→ [[语音识别与合成【知识】|【知识】主体一节]]）

验证"这一段声音是否为某人本人"，可做身份校验/安全风控。位于"识别-分离-验证"三件套之一。（→ [[语音识别与合成【知识】|【知识】主体一节]]）

把一段多人录音按"谁什么时候说话"切分，用于会议纪要切句、客服语者分类。（→ [[语音识别与合成【知识】|【知识】主体一节]]）

把文本变成自然语音的任务，语音客服、有声书、无障碍的出口。（Tacotron2 等神经架构：arXiv:1712.05884）（→ [[语音识别与合成【知识】|【知识】主体二节]]）

对 TTS 自然度的主观打分（通常 1–5），衡量"听起来像不像真人"。（→ [[语音识别与合成【知识】|【知识】主体二节]]）

少样本复刻指定音色让任意文本用该声音说出。双刃剑：好用但深度伪造风险高，需授权/合规/防伪。（VALL-E：arXiv:2301.02111）（→ [[语音识别与合成【知识】|【知识】主体二节]]）

把低频次的声学特征变成最终人耳可听波形的环节（现代 TTS 后段），影响听感与实时性。（→ [[语音识别与合成【知识】|【知识】主体二节]]）

用克隆技术冒充他人声音用于诈骗/制造虚假内容；合规风险，需防伪与内容安全（→ [[内容安全与防滥用【知识】]]）。（→ [[语音识别与合成【知识】|【知识】主体二节]]）

判断"有没有人在说话、说到哪算一段"的环节，实时对话切断句/开麦的关键（WebRTC / Silero 经典）。（→ [[语音识别与合成【知识】|【知识】主体三节]]）

"VAD→ASR→LLM→TTS（或流式端到端）"串成低延迟语音助手闭环的工程架构。（OpenAI Realtime API 为代表）（→ [[语音识别与合成【知识】|【知识】主体三节]]）

用户正在播放播报时随时打断开口，系统的响应处理能力——语音客服体验的关键点。（→ [[语音识别与合成【知识】|【知识】主体三节]]）

模型同时处理/理解/生成多种数据形式（文本/图像/音频/视频）的能力领域；核心是"打通模态，让模型理解并指挥它们"。（→ [[多模态理解与生成【知识】|【知识】核心构成]]）

用一套骨干把"文本↔图↔音↔视频"多向理解与生成都打通的一类模型（如 Gemini、GPT-4o）。（→ [[多模态理解与生成【知识】|【知识】主体二节]]）

语言模型处理文本的基本单位；多模态把图/音也**编码成"类似 token 的视觉单元"**喂给 LLM，所以图也占上下文空间。（→ [[多模态理解与生成【知识】|【知识】主体一节]]）

让"图"与"文"等不同模态在语义空间上对齐（语义相近则向量近），是"图文能互相理解"的地基。CLIP 代表（ICML 2021）。

让 LLM 能看图/视频并读懂的模型（图像变 token 喂进 LLM）。看图说话、文档理解、图表问答的骨干。（LLaVA：arXiv:2304.08485）（→ [[多模态理解与生成【知识】|【知识】主体一节]]）

把图像变成模型能处理的视觉 token/向量的前端模块，VLM 的第一段。（→ [[多模态理解与生成【知识】|【知识】主体一节]]）

给定图片+问题、由 VLM 回答的评测/任务形式，衡量"看图能不能懂"。（→ [[多模态理解与生成【知识】|【知识】主体一节]]）

用户发截图/照片后，VLM 做 OCR+理解再串业务的一环（详见[[多模态理解与生成【知识】|【知识】主体三节]]）。（→ [[多模态理解与生成【知识】|【知识】主体三节]]）

文字提示直接生成图像，多模态生成的组成之一（原理见[[生成式模型与扩散【知识】]]、[[视觉感知与生成【知识】]]）。（→ [[多模态理解与生成【知识】|【知识】主体二节]]）

在一个统一模型内经指令触发图/音/视频等多向产出。（→ [[多模态理解与生成【知识】|【知识】主体二节]]）

输入一种模态、产出另一种或几种模态（图文并茂、图加音加视频联动）的能力。（→ [[多模态理解与生成【知识】|【知识】主体二节]]）

能读图/音的同时规划、调用工具、产出跨模态结果的智能体形态。（工程见[[Agent 系统工程【知识】]]）（→ [[多模态理解与生成【知识】|【知识】主体三节]]）

在 RAG 里混入图/音等模态知识进行检索增强的形态（基础见[[RAG 检索增强【知识】]]）。（→ [[多模态理解与生成【知识】|【知识】主体三节]]）

把文本/实体映射成高维数字向量、语义相近则向量近；是语义检索/相似度/图谱表示的地基。word2vec 奠基（arXiv:1301.3781）。（→ [[知识表示检索与推理【知识】|【知识】主体一节]]）

专门存向量、按相似度快速检索的数据库，RAG/向量检索的存储载体（工程详见 [[RAG 检索增强【知识】|RAG 【工具】]]）。（→ [[知识表示检索与推理【知识】|【知识】主体一节]]）

以节点=实体、边=关系存储结构化知识的网络结构；支撑精确关联/多跳/可解释问答。（→ [[知识表示检索与推理【知识】|【知识】主体一节]]）

知识图谱的最小构成单元（主语-谓词-宾语），图谱构建与抽取的目标（抽取见 [[自然语言理解【知识】|【知识】信息抽取节]]）。（→ [[知识表示检索与推理【知识】|【知识】主体一节]]）

把图谱中的实体/关系也编码成向量以支持图谱推理与补全的经典方案（Bordes et al., arXiv:1307.0484）。（→ [[知识表示检索与推理【知识】|【知识】主体一节]]）

按词项在文档中的统计相关性排名的经典检索方法，吃**精确术语/编号**很准（Robertson & Zaragoza 2009）。（→ [[知识表示检索与推理【知识】|【知识】主体二节]]）

靠语义相似而非字面关键词检索；处理同义改写/口语。（→ [[知识表示检索与推理【知识】|【知识】主体二节]]）

向量 + 关键词双路取并集再融合的检索，绝大多数 RAG 的默认（工程见 [[RAG 检索增强【知识】]]）。（→ [[知识表示检索与推理【知识】|【知识】主体二节]]）

用更强模型对初筛候选精排、把真正有用的提到最前（检索的两段式第二段）。（→ [[RAG 检索增强【知识】|RAG 【名词】]]）（→ [[知识表示检索与推理【知识】|【知识】主体二节]]）

检索质量的离线指标：前 K 条命中率 / 排序质量评分。（→ [[RAG 检索增强【知识】|RAG 【名词】]]）（→ [[知识表示检索与推理【知识】|【知识】评测节]]）

沿图谱边递归取相邻节点的检索，多跳关系用它。（→ [[知识表示检索与推理【知识】|【知识】主体二节]]）

"先查再答、有据可依"的范式：生成前先从外部库检索相关片段注入上下文再作答。讲"为什么能"看本域，讲"怎么工程化"看 [[RAG 检索增强【知识】]]（Lewis et al., arXiv:2005.11401）。（→ [[知识表示检索与推理【知识】|【知识】]]）

在 RAG 基础上引入知识图谱/图检索，支撑多跳与全局答案（微软 GraphRAG）。（→ [[知识表示检索与推理【知识】|【知识】主体三节]]）

让模型先输出中间推理步骤再给答案的提示方式，数学/逻辑任务显著涨效果（Wei et al., arXiv:2201.11903）。（→ [[知识表示检索与推理【知识】|【知识】主体三节]]）

让模型"推理与调用工具交替进行"的范式，接外部信息再推（Yao et al., arXiv:2210.03629），Agent 的基础（→ [[Agent 系统工程【知识】]]）。（→ [[知识表示检索与推理【知识】|【知识】主体三节]]）

模型基于已知知识/检索结果一步步推导出结论的能力，CoT/检索增强/图推理都是它的实现。（→ [[知识表示检索与推理【知识】|【知识】主体三节]]）

用规则或模型"造出来"而非真实采集的训练/评测数据。真实数据稀缺/涉隐私时的"第二条供给腿"。→ 详见【知识】支柱三。

主张"与其无脑堆量，不如先洗质、优化数据"的范式——数据质量决定模型能力上限。→ 详见【知识】支柱一。

数据是否"干净、一致、无偏可学"的整体优劣。脏数据会被模型学成坏毛病。→ 详见【知识】支柱一。

去噪（乱码/错乱/无意义）+ 去重（近似重复样本）。先洗质、再谈规模。→ 详见【知识】支柱一。

对已有真实样本做增删改改造以扩充数据量。**≠ 合成数据**（增强是改造旧样本，合成是造新样本）。→ 易混对比见下。

把无结构原始文本加工成模型可学的结构化素材（分类标签、语义字段、偏好对、标准答案），是 SFT/RLHF 的原料。→ 详见【知识】支柱二。

同一批数据多人标注结果应基本一致；不一致会让模型学到"随机噪声"而非规律。→ 详见【知识】支柱二。

对机器预标结果按比例人工复核，兼顾效率与可信度。抽检命中率是标注质量的可量化指标。

用海量无标注语料让模型学会语言/常识的阶段。资源极重，多为厂商/大厂完成；产品侧通常不自己做。→ 详见【知识】开篇。

用标注好的"指令-答案"数据教模型跟随指令与领域风格。是产品把基础模型"调到自己的范围"最常见手段。→ 详见【知识】谱系。

让模型输出符合人类偏好与安全底线的阶段（RLHF/DPO）。SFT 教"怎么做对"，对齐教"怎么做被接受"。→ 详见【知识】主线三。

用人类偏好对训练打分模型、再据此调优生成的对齐方法。效果强但工程复杂。→ 详见【知识】主线三。

绕开显式奖励模型、直接用偏好对优化生成的对齐方法，更简单稳定，广泛被采用。→ 详见【知识】主线三。

用数据在基础模型之上继续调整权重，让它适配领域/任务。与 RAG 并列的让模型贴合业务的两条主路之一。

把模型全部参数整体再训。效果上限高但成本高、易"灾难性遗忘"、难回滚。→ 详见【知识】主线一。

只训练一小块增量参数的总称。成本低、见效快、易回滚、可多版本并存，是多数产品级适配的默认选择。→ 详见【知识】主线一。

PEFT 的主流代表：在原权重旁训练一个小的"低秩增量矩阵"（A×B），只调它，其余冻结。极省资源，产出小增量文件、易分发回滚。→ 详见【知识】主线二。

在 LoRA 基础上对权重做量化进一步省显存，让消费级/单卡也能微调更大模型。→ 详见【知识】主线二。

微调时把模型原本学会的能力"忘掉/变笨"的现象。全参微调尤其易发生，须评测前后对比防退化。

参数高效微调里额外加入的、只被单独训练的小块参数（LoRA 的低秩增量即其一种）。

单请求首字/整答耗时，决定产品体验感。交互问答/客服重它。→ 详见【知识】主线一。

单位时间处理的请求/token 量，决定支撑力与摊薄单价。离线条批重视它。→ 详见【知识】主线一。

模型跑起来的算力/计费总成本。预算紧时用它牵制选型。→ 详见【知识】主线一。

表示 99% 的请求延迟低于该值，用于判断"最差体验"是否可接受——比平均值更能暴露尾部风险。

LLM 生成分两阶段：预填充并行"读完"输入算好前置状态，解码逐 token 生成。预填充是"读"（吃长输入），解码是"写"（决定响应速度与瓶颈）。→ 详见【知识】主线二。

解码阶段缓存已算过的注意力 Key/Value 复用，避免重复算前文。是解码加速与显存占用的大头，决定上下文与并发上限。→ 详见【知识】主线二。

vLLM 提出的 KV 缓存"分页管理"机制，把缓存按页塞进零散显存，兼顾省显存与高吞吐。→ 引擎背后的关键机制（归 F3.3.2 引擎）。

多请求你进我出、实时拼进同一批计算流，谁先完成谁先下场。让 GPU 满载、大幅拉高吞吐、摊薄单价。≠ 传统静态批处理。→ 详见【知识】主线二。

把整段输入/前缀的预填充结果缓存复用，降低预填充成本。**≠ KV 缓存**（前缀缓存管"读"，KV 缓存管"写"阶段的复用）。→ 易混对比见下。

把"同样模型跑更快"的推理服务层（vLLM/SGLang/llama.cpp 等），内置批处理与缓存调度。→ 详见领域工具。

把权重/激活从高精度压到 INT8/INT4 低精度：变小、省显存、更快。主流 GPTQ / AWQ / GGUF。位宽越低越省但精度损失越大。→ 详见【知识】主线三。 #### GPTQ｜逐层近似量化 对权重逐层做"整数化 + 误差补偿"的量化方法（P1 锚定 arXiv:2210.17323），适合 GPU 部署。→ 详见【知识】主线三。 #### AWQ｜按激活敏感度加权量化 根据激活敏感度对不同通道分配不同量化精度的方法（arXiv:2306.00978），在直观上更少掉点。→ 详见【知识】主线三。 #### GGUF｜可跑端侧/CPU 的量化格式 专为端侧与 CPU 部署设计的量化模型文件格式（llama.cpp 生态），让模型能跑到低配设备。→ 详见【知识】主线三 / 领域工具。

用大模型（教师）生成数据去训练更小模型（学生），让小的在特定任务逼近大的。降本不改硬件，但有天然天花板。→ 详见【知识】主线三。

让 LLM 在生成前先从外部库**检索**相关片段注入上下文再作答的范式；解决训练截止知识 + 私有知识进不去 + 幻觉三大短板。是"先查再答、有据可依"。（Lewis 2020, arXiv:2005.11401）

把长文档切成检索的基本单元（chunk）。粒度设定是 RAG 第一道工程抉择：块太大语义稀释、太小断裂。常见：固定长度、按语义边界（标题/段落）、父子块。

**子块检索 + 父块喂模型**：用细块精确定位，用包含它的粗块给模型完整上下文，兼顾"准"与"全"。

把词/句/文档映射成高维数字向量，使语义相近的内容向量距离就近。是语义检索、推荐、聚类的地基。（word2vec 2013 奠基，BERT 2019 推广上下文嵌入）

专门存"向量"、按相似度快速检索的数据库，是 RAG 存文档块嵌入的载体。普通库按字段查，向量库按语义近似查。（详见领域工具）

把已嵌入的片段组织成便于快速检索的结构（如 HNSW 近似最近邻），是"存得下、查得快"的关键。

不靠关键词字面匹配，靠语义相似度从库里找最相关内容。用户换一种说法也能命中。

向量（语义）+ 关键词 BM25（术语/型号精确）**双路取并集**，治"语义/术语变形漏召回"，几乎必配。

用更慢但更准的交叉编码器（Cross-Encoder）对初筛候选精判、重排序，把真正有用的提到最前；是"召回→重排"两段式的第二段。

query 太口语/太宽时，先让模型改写/拆解/补全再检索，提升召回（HyDE 思路：先"脑补答案"再检索）。

检索返回/命中判定的量化约定：Top-K 表示取前 K 条；Recall@K 表示前 K 条里命中了多少标准答案——评价检索质量的核心指标。

把命中的片段按相关序拼进提示词的上下文。**要克制**：token 预算有限，越长越稀释相关度且烧成本。

用固定格式（JSON schema）约束模型输出，配合"拒答/置信度"字段，减少答非所问。（详细见 F2.2）

模型生成的与事实不符的内容。RAG 用外部依据 + 引文回链抑制它。（机制与抑制上限详见 F5.2；名词卡另有 [[幻觉事实性与时效性【知识】]]）

让模型返回检到块的来源 ID/页码，事实可回查、幻觉可定位——RAG 区别于裸 LLM 的最大红利。

模型学到"命中不足就说没查到"，而非硬编；配合置信阈值触发话术兜底/转人工。

让 LLM 交替输出"推理"与"行动（调工具）"，再靠工具观察结果继续推理——"思考-行动-观察"的自主循环范式，Agent 最通用的底座。→ 详见【知识】主线一。

让模型"决定调哪个函数、生成结构化参数"，由外部系统真正执行。把模型的"理解"变成"动作"，Agent 办成事的关键开关。→ 详见【知识】主线一。

"工具调用"的同义表述。模型只"提出调用"，执行权在外部代码——这是安全边界；参数须校验后再执行，防幻觉参数。

先生成完整计划再逐条执行，更适合明确多步骤任务。**≠ ReAct**（ReAct 更轻、边想边做更通用，但对输出格式敏感）。→ 易混对比见下。

用一组"状态 + 转移 + 门控（gating）"显式描述多步任务走到哪一步、下一步可不可走。防丢线头/跳步，是可恢复、可续跑、可观测的工程底盘。→ 详见【知识】主线一。

确定性节点编排（步骤与门控清楚可控）。**相对**自主多 Agent：可控性与可预期性优先。→ 详见【知识】主线三。

一次会话/任务内的"当前工作区"，随上下文窗口走、用完即清。→ 详见【知识】主线二。

跨会话、跨任务持久保存的用户画像/历史结果，放模型上下文之外、需要时检索回来。实现侧复用 RAG。→ 详见【知识】主线二。

提出"工作记忆 vs 长期记忆"分层管理记忆的代表范式（arXiv:2310.08560），是 Agent 记忆架构的参照。

任务进度本身（未开始/取参中/已下单/完成/失败）。**≠ 记忆**（记忆管"内容"，状态管"任务进度"）。→ 易混对比见下。

把一个复杂任务拆给多个各司其职的 Agent（角色/子流程），通过分工协作完成。相对"单体全能 Agent"的组织形态。→ 详见【知识】主线三。

调度多个 Agent 或多条流程的协同、状态流转与消息协议。→ 详见【知识】主线三。

评测 Agent 时用的一组"理想执行轨迹/断言"作为回归参照，衡量实际执行与预期的贴合度。

把 ML/LLM 应用从训练到上线、监控、回滚做成平台化运维管线的方法论。"LLMOps"特指面向大模型/Prompt/Agent 侧的版本与发布。→ 详见【知识】开篇。

把企业内部所有模型/供应商调用收敛到一个统一入口的中间层——管权限、限流、成本、一键切换后端。→ 详见【知识】主线一。

把 Prompt、Agent 工作流、RAG 索引配置当作与代码同级的可版本、可回溯、可整体回滚单元。是秒回与审计的前提。→ 详见【知识】主线一。

把新版先切 1–5% 流量试运行，指标达标再逐步放量到全量。因 LLM 输出概率性、会静默漂移，改版必须小流量试。→ 详见【知识】主线二。

出问题时把整套"prompt + agent + 模型 + 参数"的配置快照整体恢复，而非单点回滚。→ 详见【知识】主线二。

真实环境同时运行两版，用户随机分桶，用在线事实对比决定去留。**≠ 灰度**（灰度偏上线稳妥放量，A/B 偏长期对比做产品决策）。→ 详见【知识】主线二。

记录一次 LLM 调用全链路（prompt → 检索 → 工具/Agent → 回答 → 引文）的完整轨迹，让坏答案可定位到具体环节。排障与控险底座。→ 详见【知识】主线三。

对每次调用的 token 用量/费用、上下文长度、模型路由分布持续计量与告警，把"烧钱"变成可设预算、能告警的对象。→ 详见【知识】主线三。

把业务评测集当发布"闸门"——任何改 prompt/模型/索引指标不达标就不放行，用连续评测撑住不退化。→ 详见【知识】主线三。

业界统一的 LLM 可观测 trace 标准化方案，让不同组件的调用轨迹能按同一口径串起来。

用可视化节点/积木式配置搭建 AI 应用（RAG/Agent/工作流）的平台，不写代码也能验证与轻量上线。→ 详见【知识】主线二。

以编程方式把 RAG、Agent、工作流组装起来供工程深度控制的库（如 LangChain / LlamaIndex），自由度最高但要求工程能力。→ 详见【知识】主线一。

在低代码平台里，AI 应用统一接入多个模型/供应商的能力抽象（与 [[MLOps 与平台【知识】]] F3.6 的模型网关话题相接）。

低代码平台封装的核心能力之一：知识库 + 检索 + 生成。底层原理详见 [[RAG 检索增强【知识】]]（F3.4）。

低代码平台封装的核心能力之二：工具/循环/记忆/工作流。底层原理详见 [[Agent 系统工程【知识】]]（F3.5）。

可视化平台里的节点编排图层，把步骤与门控串成可执行流程。工程语义详见 [[Agent 系统工程【知识】]]（F3.5）。

一套**标准化题干 + 判分规则**，用来客观衡量模型在某维度的能力。是"模型能力的统一量表"，但也易被刷榜/污染。核心：分维度测（知识/数学/代码/推理），比"用同一套题横向比"更有意义。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

让**真人盲选**"两个回答哪个更好"来耗模型的用户偏好榜（代表 LMArena）。贴近真实体感、但受模型热度与主观影响。与客观榜互补。→ 详见 [[模型评测与基准【知识】|【知识】支柱二]]

Artificial Analysis 用**固定 benchmark 自动判分**给出的客观能力指数，**可复现可对比**。也有智项指数价本（Intelligence Index Price Bias）等派生口径。→ 详见 [[模型评测与基准【知识】|【知识】支柱二]]

大规模多任务理解，**通识知识测**，量大偏"记忆"；MMLU-Pro 升级版去重加难。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

**中文语境**的分学科综合评测，选题取自中国教育/考试公开语料，衡量中文知识。注意：中文榜结论常与英文榜不一致。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

小学数学应用题基准，测**符号到答案的推理链条**，8 年级水准。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

**竞赛级数学/推理基准**，比 GSM8K 难得多，测硬推理。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

代码**补函数**基准：给函数签名与注释，让模型补实现，自动跑单测判过。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

**真实软件工程基准**：从真实开源仓库 issue 中取材，让模型改仓库里的 bug 并跑测试，测"能不能干活"。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

**更抽象/更难的综合推理基准**（研究生级问答 / ARC 图表推理 / 跨任务集），测"泛化推理"而非记忆。→ 详见 [[模型评测与基准【知识】|【知识】支柱一]]

一组模型没训练见过的题目，用来测能力，**必须对模型保密**、防被背题。业务侧要建自己的**业务 POC 评测集**（对准业务失败模式取样）。→ 详见 [[模型评测与基准【知识】|【知识】支柱三]]

模型的训练数据**包含**了评测题或答案，导致分数虚高、失去意义。识别方法是"这题它是不是背过"。→ 详见 [[模型评测与基准【知识】|【知识】支柱三]]

针对某套基准反复调优到"只会在那套题上得分"，换任务立刻失灵。防止靠"分维度 + 业务 POC"交叉验证。→ 详见 [[模型评测与基准【知识】|【知识】支柱二、三]]

用**真实业务样本集**选做的小型评测，弥补官方基准与业务体验的差距，选型必做。→ 详见 [[模型评测与基准【知识】|【知识】支柱三]]

模型生成内容**看起来通顺自信、但与事实不符**——可能编造事实、捏造来源、给出不存在的商品或政策。不是"解决了什么"，而是必须控制的风险。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱一]]

答案能否由**给定上下文/事实依据**支撑——测"有没有越权编造"，RAG 场景最关键指标。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱三]]

答案与**客观事实**的一致程度（不一定依赖给定上下文）。与忠实度（依赖给定证据）相对。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱二、三]]

用**训练截止前的旧知识**答"最新"问题；模型感知不到"现在"，训练截止是其意识盲区。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱二]]

**编造不存在的来源、数据、条款或"那篇论文"**——最危险的一类幻觉，因为它看着最可信。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱二]]

答案与给定上下文/事实**矛盾**（语料里的错误常识，或自己前后矛盾）。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱二]]

给定上下文的**中段**信息易被模型漏读而答错——上下文越长越明显。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱二]]

是否**答非所问**（用户问退货，答配送）——与忠实度互补的另一指标。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱三]]

关键论断是否**给出来源、且来源真实可查**。注意"有引用" ≠ "内容真实"（可能引了来源、数字却是编的）。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱三]]

模型学到"命中不足就说没查到"而非硬编；配合置信阈值触发话术兜底/转人工。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱四]]

"流畅、自信、却无事实根据"的幻觉形态——判定重点是**不漏过无凭据的有力输出**，对关键论断逐条查证。→ 详见 [[幻觉事实性与时效性【知识】|【知识】支柱二、三]]

模型结果出现**系统性、不当的偏向**（性别/种族/地域等），来自训练语料并把语料刻板印象放大。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱一]]

**跨群体结果/机会/风险是否一致地处理**。没有唯一公式，不同公平定义互斥，是取舍。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱二]]

各群体**被正面处理的比例相同**（如录取比例一样）。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱二]]

各群体对"**真应当被选中的人**"的召回率相同（不错杀本该通过的）；比统计均等在业务上更贴近"别冤枉该过的人"。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱二]]

模型的决定**能否说清理由**——对责任和信任关键。LLM 层面更多靠来源/归因/轨迹等"外挂"解释，而非打开黑箱看参数。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱三]]

回答给出**来源/支撑材料**，指出"凭什么这么答、哪段材料支撑"——RAG 天然可溯，最易落地的解释。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱三]]

多步任务里展示"它搜了什么、调了什么工具"的决策链（[[Agent 系统工程【知识】]] F3.5）。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱三]]

"能说清为什么"的产品化表达，关联"透明度 = 信任"（[[AI 原生交互与体验【知识】]] F4.2）。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱三]]

不得用于歧视决策的特征（性别/种族血统/宗教/年龄/残障等），是公平评测分组的依据。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱一]]

专门测"模型对某群体是否做出刻板/有害推断"的英文 QA 基准。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱一]]

测"模型是否把刻板印象当作正确答案"的基准（含英文管道）。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱一]]

按受保护属性把输出拆组计算正确率/采纳率，看**组间差距**来衡量是否有偏。→ 详见 [[偏见公平与可解释性【知识】|【知识】支柱一]]

能识别/关联到具体个人的数据（姓名、电话、地址、证件号等），是隐私合规重点保护对象。在训练/推理中要先识别、脱敏、最小化。→ 详见 [[隐私合规与安全【知识】|【知识】支柱一]]

只收集完成业务必需的数据、不超范围、留存设期限——合规底线。→ 详见 [[隐私合规与安全【知识】|【知识】支柱一]]

按 GDPR / 个保法等落实告知、同意、可删除、合规使用（正式制度见 [[法规与行业标准【知识】]] F5.7）。→ 详见 [[隐私合规与安全【知识】|【知识】支柱一]]

攻击者把**恶意指令混进输入**让模型越权执行（吐内部提示、调不该调的工具）。LLM 最典型安全威胁，是**输入侧越权**。→ 详见 [[隐私合规与安全【知识】|【知识】支柱二]]

模型回答**吐出**不应暴露的信息（他人 PII、密钥、内部提示）。→ 详见 [[隐私合规与安全【知识】|【知识】支柱二]]

权威机构 OWASP 发布的 **LLM 十大安全风险清单**（含提示注入、敏感信息暴露、过度授权、供应链漏洞等），更新最新——安全自评的对照表。→ 详见 [[隐私合规与安全【知识】|【知识】支柱三]]

**谁最小够用给谁**的权限设计，防止 Agent/工具越权取用（读取他人数据、调用付费接口）。→ 详见 [[隐私合规与安全【知识】|【知识】支柱三]]

用到的第三方库/模型/插件可能带漏洞或被投毒，需管控依赖。→ 详见 [[隐私合规与安全【知识】|【知识】支柱三]]

上线前用**对抗样本主动攻击**，专测"骗过了没"（越狱/注入/泄露）。→ 详见 [[隐私合规与安全【知识】|【知识】支柱四]]

AI 做了什么**留日志**，可回溯、可追责——合规与追责都靠它。→ 详见 [[隐私合规与安全【知识】|【知识】支柱四]]

入口拦恶意输入、出口拦敏感/违规输出——最基础的边界防护。→ 详见 [[隐私合规与安全【知识】|【知识】支柱四]]

对模型**输入/输出**的**有害内容**（违禁/暴力/诈骗/诱导）做审核与控制，不让违规内容产生或流出。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱一]]

把内容打成的**受限类别**（涉政/涉恐/涉黄/暴力/诈骗等），命中高危直接拦截——审核的"红线"依据。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱二]]

用**关键词/规则/暗语变体**做快速命中——覆盖面广但不精确，易漏变体、易误伤正常词。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱二]]

用**分类模型**把内容判成"是否有害/哪类有害"——比关键词准，仍有盲区。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱二]]

对**高风险/灰色地带**样本由人定最终口径——审核链的最终保证，成本最高。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱二]]

防范 AI 被用于**恶意目的**（批量生成垃圾/诈骗文案、恶意诱导）。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱三]]

用**绕过提示**诱导模型突破安全限制生成违规内容——与提示注入相邻，但侧重"制造内容"而非"越权取数据"。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱三]]

识别并拦**批量/异常调用**（刷量、爬取、批量造垃圾）——防工具被规模化滥用。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱三]]

让每个生成入口**可追溯到调用来源/账号**——利于治理与追责。→ 详见 [[内容安全与防滥用【知识】|【知识】支柱三]]

让模型的**目标/输出与人类意图和价值观一致**。没对齐的模型能力强但方向不受控。（RLHF 等为训练手段）→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱一]]

用**人类偏好反馈**做奖励，让模型从"预测最像"走向"符合人类偏好"的训练/对齐方法。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱一]]（机制见 [[模型训练与微调【知识】]] F3.2）

**更简单的偏好对齐方法**，不建奖励模型，直接按偏好对更新，成为 RLHF 之外的常用替代。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱一]]

不重训模型时，用**系统提示/行为边界/筛选规则**把模型约束在"产品该有的说话办事方式"内——产品侧对齐的主要手段。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱一]]

模型在**对抗扰动、分布外（OOD）、长尾**输入下仍不失效。决定产品"经不经得起真实世界"。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱二]]

模型遇到**跑出训练分布**的任务/题材/格式时的表现——分布外常不稳定。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱二]]

**刻意构造的微小扰动**（改写/拼错/插入）试图把模型带偏——用于测稳健性与安全。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱二]]

**多步 Agent 里上一步的错误被下一步放大**导致整体失控——多步稳健性的核心风险（[[Agent 系统工程【知识】]] F3.5）。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱二]]

把公平/安全/隐私/环境等社会影响纳入设计**当作上线门槛**的工程与治理理念。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱三]]

把关键决策/灰色场景**保留给人审与裁决**，AI 只作建议（[[人机协作与分层决策【知识】]] F4.3）。→ 详见 [[对齐稳健性与社会责任【知识】|【知识】支柱三]]

中国首部**面向生成式 AI 的专门监管办法**：要求提供生成式 AI 服务的完成备案、内容安全、数据合规、提示义务等，属地管理。→ 详见 [[法规与行业标准【知识】|【知识】主体一]]

提供**面向公众的生成式 AI 服务**需完成的算法/服务备案——不上线的硬前提。→ 详见 [[法规与行业标准【知识】|【知识】主体一]]

中国个人数据保护基础法——告知、同意、最小化、可删除等对 AI 数据处理同样适用（与 [[隐私合规与安全【知识】|F5.4]] 联动）。→ 详见 [[法规与行业标准【知识】|【知识】主体一]]

中国数据安全基础法——数据分类分级、重要数据处理义务，算法推荐等行为也受其规制。→ 详见 [[法规与行业标准【知识】|【知识】主体一]]

欧盟**首部系统化域外 AI 法规**：按**风险分级**（不可接受/高风险/有限/低）监管，对出海欧洲影响最大。→ 详见 [[法规与行业标准【知识】|【知识】主体二]]

欧盟数据保护总法——数据处理的告知、同意、可删除、跨境传输，AI 产品出海欧盟必对。→ 详见 [[法规与行业标准【知识】|【知识】主体二]]

AI Act 把 AI 系统按"不可接受风险（禁）/高风险（严苛义务）/有限风险（透明）/低风险"分档监管，生成式大模型多落高风险或有限风险档。→ 详见 [[法规与行业标准【知识】|【知识】主体二]]

面向公众要**适度披露算法、提示"这是 AI 生成"**等透明度义务（中国有要求，AI Act 有限风险档也有透明义务）。→ 详见 [[法规与行业标准【知识】|【知识】主体一、二]]

**信通院、CCF** 等发布的 AI 评测/合规标准——非强制但常被监管与客户当**验收依据**。→ 详见 [[法规与行业标准【知识】|【知识】主体三]]

调用与决策**留档可溯**，可响应监管问询与用户申诉——合规的落地保障。→ 详见 [[法规与行业标准【知识】|【知识】主体四]]