平台总览:两条产品线,一个平台
1.1 一句话定位
阿里云百炼是一站式大模型开发与应用平台:集成千问及主流第三方模型,把「大模型能力」变成「业务能直接用的产品」。
1.2 核心心智:两条并列产品线
官方文档站顶部按「产品线 × 文档类型」分成四个象限:用户指南(模型)/ 用户指南(Agent)/ API 参考(模型)/ API 参考(Agent),外加一个 CLI。由此概括出百炼的两大事业部 + 一个接入层 + 平台基础:
一句话记法:模型事业部回答「我要一个大模型,怎么调用、怎么让它更懂我、更省」;Agent 事业部回答「我要一个能直接上线的 AI 产品,怎么做、怎么发布、怎么 API 化」。
模型(调用/定制)+ Agent(智能体产品),各有独立的用户指南与 API 参考。
OpenAI / Anthropic 双协议兼容 + CLI + 20+ 开发工具,迁移成本极低。
面向用户开放必须配置内容安全护栏,上架前完成应用合规备案。
1.3 两类用户
| 用户类型 | 是什么人 | 用的能力 | 典型诉求 |
|---|---|---|---|
| 开发者 / 工程师 | 会写代码 | 兼容 API、SDK、CLI、20+ 开发工具、全链路模型服务 | 几行代码调用、批量接入、代码级 RAG |
| 业务人员 / 产品运营 | 不写代码 | 可视化应用构建(智能体/工作流)、多模态生成 | 拖拽搭建智能体、知识问答、生成图片/视频 |
兼容性是百炼给开发者最大的一张牌:支持 OpenAI 与 Anthropic 双协议兼容,改 API Key、Base URL、模型名三点即可迁移现有代码。
模型事业部:调用与定制大模型
回答「如何获得可用的大模型,以及如何让它更懂你的业务、更强、更省」,覆盖文本与多模态的调用 → 定制 → 部署 → 评测 → 省成本全链路。
2.1 模型服务(开箱即用)
模型广场聚合千问全系列 + 主流第三方大模型,按能力分类:
| 能力类别 | 代表模型 | 定位 / 适用 |
|---|---|---|
| 千问文本旗舰 | qwen3.8-max / plus / flash | max 效果最好、复杂任务;plus 均衡多数场景推荐;flash 高性价比低延迟 |
| 千问全模态 | qwen3.8-omni 系列 | 融合文本/图像/音频/视频理解与生成;实时音视频看重 omni-realtime |
| 视觉/图像/视频 | qwen-image、wan2.7-image、wan3.0-video | 文生图、图生视频、视频编辑、视觉理解 |
| 语音 | qwen-audio 系列 | TTS 合成、ASR 识别、语音转语音 |
| 向量/重排序 | text-embedding、text-rerank | 向量化与精排,配合知识库检索 |
| 第三方大模型 | DeepSeek、Kimi、GLM、MiniMax 等 | 补充选型、降低单一模型依赖 |
| 特殊能力 | 3D、音乐、世界模型等 | 前沿/垂直能力按需选用(见 2.6) |
选型思路:多数业务从千问 Plus起步,复杂任务上Max,高并发低成本上Flash,第三方作备份。
2.2 模型调优(把通用模型变成「懂你的模型」)
先用提示词工程、插件调用;仍不满足时用训练数据调成领域模型。
| 方式 | 全称 | 解决什么 | 推荐数据量 | 典型场景 |
|---|---|---|---|---|
| CPT | 继续预训练 | 领域知识注入 | 至少 5000 万 Token | 行业知识库、垂直语料 |
| SFT | 监督微调 | 指令微调,学特定任务 | 上千条 | 客服话术、合同摘要、医疗问答 |
| DPO | 直接偏好优化 | 偏好对齐 | 上百条 | 安全合规、语气风格、价值观 |
| RL | 强化学习 | 奖励信号持续优化 | — | 需反馈/自动评分提升 |
- 数据准备(关键):SFT 训练集通常需 1000+ 样本;配套数据管理支持 JSONL/Excel、容量无上限、导入后需发布。
- 数据清洗/增强:对训练集做数据清洗(敏感打码、特殊内容移除等 10 种操作)和数据增强(增加多样性/均衡性),仅北京地域可用。上线定制模型前应确认数据已清洗。
- 训练最佳实践:三步主线「模型调优 → 模型部署 → 模型评测」+ 三步辅助「训练数据准备 → 评测模板设计 → 调整训练策略」。
- 训练方式:高效训练/全参训练;目前仅北京地域支持调优。
2.3 模型部署(生产级专属服务)
| 部署方式 | 怎么理解 | 适用场景 |
|---|---|---|
| DTU 独占吞吐 | 面向新发布模型,按输入/输出 TPM × 时长计费 | 新模型上线首选 |
| PTU 预置吞吐 | 面向已有模型,按模型单元 × 时长,支持长输入/前缀缓存 | 高吞吐、低延迟、长输入 |
| Token 按量部署 | 按调用 Token 计量 | 调优效果验证、低流量 |
配套 Prime 模式:对输出速度敏感场景提供更高吞吐(标准 API 场景约 1.5~2 倍 TPS),按 token 计费。
2.4 模型评测(把「感觉」变成「数据」)
- 基线评测:内置通用知识/数学/代码/推理/领域 5 大类公开基线库。
- 自定义评测:业务自建数据集 + 自定义维度。
- 5 种评分器:大模型评估(分类型/数值型)、规则评估(字符串匹配/文本相似度)、人工评估。
2.5 模型进阶能力(省心 + 省钱)
| 能力 | 是什么 | 给产品经理的价值 |
|---|---|---|
| 智能路由(auto-model) | 请求用 auto-model 前缀,平台动态匹配最合适模型 | 简单任务走轻量模型省钱、复杂任务走高阶模型保效果[1] |
| 模型压缩(量化) | 把全精度微调模型量化成低精度,降低部署规格 | 调优→压缩→部署,成本可省约 5 成[2] |
| 吞吐预留(TPM Reservation) | 为指定模型锁定专属推理容量 | 高峰突增、SLA 稳定吞吐、对限流零容忍 |
2.6 多模态生成专项(内容生产)
百炼把图像、视频、音频、3D、音乐的内容生成做成可直接调用的能力,并可微调成自己的风格。
| 能力 | 能做什么 | 关键模型 | 典型业务场景 |
|---|---|---|---|
| 图像生成 | 文生图、图生图(多图)、提示词智能改写 | wan2.7-image-pro、qwen-image-2.0 | 广告素材、电商图、IP 形象 |
| 图像微调 | SFT-LoRA 定制风格/IP/角色一致性 | — | 训练特定人物/特效 LoRA,稳定复现 |
| 视频生成 | 文生视频、图生视频(首帧/首尾帧)、参考生视频、多镜头叙事、声音生成 | wan2.7-i2v、wan2.2-kf2v-flash | 营销视频、剧情短片、素材生成 |
| 视频微调 | SFT-LoRA 定制特效/动作/风格 | — | 训练「金钱雨」等特定特效 LoRA |
| 音频生成 | 一次生成语音+音效+环境音 | qwen-audio-3.1-tts-next | 播客、有声书、游戏配音、多人对话 |
| 3D 生成 | 文生 3D、单图/多图生 3D | Tripo P1.0、H3.1 | 3D 资产、游戏道具、渲染预览 |
| 音乐生成 | Prompt 作曲、歌词谱曲、纯音乐 | fun-music | 音乐营销、配乐 |
| 文档转视频 | 文档→切片→PPT 图→语音+字幕→合成视频 | 多模态组合 | 知识视频化、课程切片 |
首次调用图像/视频 API 路径(异步两步法):先 POST 创建任务拿 task_id,再 GET 轮询结果(SUCCEEDED 后取产出 URL);视频耗时更长,产出链接有效期约 2 小时。普通用户用「控制台体验」即可;要批量生产或定制专属风格才走 API 或微调。
2.7 Prompt 工程指南(三类公式)
| 模态 | 基础公式 | 进阶要点 |
|---|---|---|
| 文生文 | 背景 → 目的 → 风格 → 语气 → 受众 → 输出 | 给样例、设步骤、用分隔符、引导思考(思维链);百炼提供 Prompt 一键优化 |
| 文生图 | 主体 + 场景 + 风格 | 加镜头语言 + 氛围词 + 细节;词典覆盖景别/视角/镜头/风格/光线;V2 支持 prompt_extend |
| 文生视频 | 主体 + 场景 + 运动 | 加美学控制;图生视频 = 运动+运镜;多镜头用序号+时间戳+分镜 |
2.8 显式缓存与日志回流
| 能力 | 是什么 | 价值 |
|---|---|---|
| 显式缓存 | 请求加缓存标记,相同输入确定性命中;首写 +25% 开销,命中省 90%,一次命中即回本[3] | 高频复用同一 Prompt(如长上下文 Agent)显著降本提速 |
| 日志回流 | 把 SLS 推理日志回流,格式化成结构化 JSONL 数据集 | 产出数据用于微调/评测,形成「线上数据反哺训练」闭环;北京+新加坡可用 |
2.9 计费与成本控制
| 付费方式 | 怎么理解 | 折扣 / 适用 |
|---|---|---|
| 按量付费 | 按 Token 后付费 | 短期、波动大 |
| 资源包 | 一次性买固定 Token 量 | 单个特定模型、用量集中 |
| 节省计划 | 承诺月消费换阶梯折扣 | AI 通用型最高约 5.3 折,覆盖绝大多数直供模型,多数场景首选[4] |
- 限流(RPM/TPM):RPM=每分钟请求数、TPM=每分钟 Token 数,按主账号维度合并计算;部分热门模型动态限流(按月消费分档)。这是产品架构必须考虑的边界。[5]
- 预算管理:按账号/业务空间/API Key 三粒度设月度预算+告警。
- 新人免费额度:自动发放,有效期 90 天、仅北京、仅实时推理(Batch 不抵扣);未认证用完即停,已认证用完自动转按量,可开「免费额度用完即停」。
预算管理的「达预算即停」在生产环境不建议开启(预算用尽会直接限制调用、导致业务中断),建议只设告警阈值(如 80%)。
Agent 事业部:把模型变成智能体产品
回答「如何把模型(+知识库+工具)做成能直接上线、能 API 化的智能体产品」。
3.1 三种应用形态:覆盖全人群
| 应用类型 | 适合谁 | 核心特点 | 开发方式 |
|---|---|---|---|
| 智能体应用(Agent) | 业务/产品/运营 | AI 自主决策、动态规划 | 自然语言配置(零代码) |
| 工作流应用(Workflow) | 业务分析师、实施顾问 | 预定义流程精确控制 | 可视化编排(低代码) |
| 高代码应用(Rich Code) | AI 工程师、开发者 | 完全代码控制 | Python 编码(专业代码) |
智能体偏灵活,工作流偏可控,高代码偏定制,三者互补。
3.2 智能体应用:核心(含 Agent 1.0 / 2.0)
- Agent 1.0(旧版):模型 → 系统提示词 → 知识库(RAG)→ 插件。发布渠道丰富(网页/钉钉/微信/组件/音视频)。
- Agent 2.0(新版,推荐):把知识库、MCP 统一为「工具」,由模型自主规划调用,支持「规划-执行-反思(ReAct)」链路展示。能力包括智能模式(AUTO/性能/均衡/经济)、提示词变量、内置工具(bash/write/read/edit 等沙箱)、知识检索服务、MCP(插件可一键转 MCP)、数据连接器、应用组件、技能(Skill)、短期记忆(0-30 轮)。[6]
Agent 2.0 与 1.0 架构不兼容、不能直接升级/降级,需重新创建;且 Agent 2.0 仅支持 API 调用(网页/钉钉/微信分享是 1.0 的功能)。
3.3 工作流应用(Workflow)
任务有明确步骤、需固定流程或多步骤组合外部工具时用。节点全景:基础节点(开始/结束、条件判断、循环、批处理、流程输出)、AI 节点(大模型、知识库、意图分类、参数提取、多模态生成、智能体创建/群组)、工具节点(API、函数计算、脚本、插件、MCP、AppFlow)、数据处理节点(变量赋值、文档/图片/音频/视频解析、数据连接器)。[7] 支持导入 Dify 工作流。
3.4 高代码应用(Rich Code)
基于 Python 项目部署 AI 后端,支持 Serverless Function 与 K8s;预置对话/工具调用/深度研究 Agent 等模版;一站式 MCP 接入、自定义前端、企业级运维/可观测/日志/API 网关。[8] 适合私有算法、复杂系统集成。
3.5 知识库 RAG(让智能体「懂你」的私域数据)
链路:创建知识库 → 上传数据 → 解析切分 → 挂到应用 → 检索增强。
- 类型:文档搜索、数据查询(NL2SQL)、图片问答、音视频搜索。
- 上传:单次最多 50 个文件、单个 ≤150MB;支持 PDF/DOCX/XLSX/PPTX/TXT/MD/HTML/CSV。
- 解析切分:6 种切片方式(智能切分默认)。
- 检索链路:Query 改写 → 向量+关键词检索 → Rerank 精排 → 返回切片 → 生成答案。
| 维度 | 控制台 RAG(可视化) | LlamaIndex 代码级 RAG |
|---|---|---|
| 使用方式 | 控制台可视化操作 | Python SDK 编码 |
| 目标用户 | 业务人员、产品经理 | 开发者、研发人员 |
| 适用 | 快速搭建问答应用 | 把检索能力嵌入自有系统/业务流程 |
3.6 插件与 MCP(让智能体「会调用外部工具」)
| 维度 | 插件(Plug-in) | MCP |
|---|---|---|
| 本质 | 工具的集合(一个插件含多个 API 工具) | 大模型与外部工具的信息通道 |
| 类型 | 官方/三方/自定义插件 | 官方 MCP 服务、自定义 MCP |
| 场景 | 计算器、代码执行、生成图片、搜索 | 路径规划、网页爬取等 |
| 价值 | 解决幻觉、时效、精确计算 | 接入三方工具、降低集成成本 |
3.7 托管智能体(Managed Agents):Agent 线的 API 集成层
把做好的智能体/工作流,通过托管运行时 + REST API + SSE 事件流 + SDK 嵌入自己的业务系统。[9]
- 模型 API = 调用模型本身(
model参数);Agent API = 调用智能体应用这个业务封装(app_id)。 - 托管智能体 API 管理的能力资源:Agent / Session(会话)/ Event(事件与 SSE 流)/ File / Memory Store(记忆库)/ Skill(技能)等生命周期,鉴权为 Bearer API Key。
- 价值:把智能体能力标准化、可嵌入,适合企业微信、钉钉、客服系统、内部平台的 AI 集成。
3.8 应用发布与分享
| 发布方式 | 适用 | 说明 |
|---|---|---|
| 网页/魔笔链接 | Agent 1.0 | 生成可访问链接 |
| 钉钉机器人 / 微信公众号 | Agent 1.0 | 发布到工作群/公众号 |
| 发布为组件 | Agent 1.0 | 复用组件集成业务系统 |
| API / SDK 调用 | Agent 1.0 / 2.0 | 用百炼 API Key 以接口调用 |
接入与开发:CLI 与 API
横跨两线,回答「用代码/终端怎么把百炼用起来」。
4.1 接入方式总览
4.2 百炼 CLI
npm 包 bailian-cli(命令 bl / bailian),定位「为 AI Agent 打造的命令行工具」,把文本/图像/视频/语音/知识库/记忆/联网/MCP 编排封装成结构化工具调用。它是控制台与代码/Agent 环境之间的统一终端入口,不是后端 API 的直接替代品。
4.3 开发者工具 / 客户端接入(20+ 工具)
接入本质是配置三件事:API Key + Base URL + 模型名。不同计费方案的凭证和端点不通用。[11]
| 类别 | 工具 | 一句话定位 |
|---|---|---|
| AI 编码 | Claude Code / Cursor / Codex | 命令行编程助手 / AI IDE / 终端编程助手 |
| AI 编码 | Qwen Code / Qoder / Lingma | 千问编码工具 / Agentic 编码平台 / 阿里智能编码助手 |
| AI 编码 | Cline / Kilo CLI | VSCode 编程插件 / Kilo Code 命令行 |
| 终端/CLI | Hermes Agent / OpenClaw | 终端 AI 编程工具 / 开源个人 AI 助手 |
| 图形客户端 | Chatbox / Cherry Studio | 跨平台 AI 客户端 / 开源桌面客户端 |
| 图形客户端 | QwenPaw / 千问 Office 助手 | AgentScope 个人助手 / 办公助手 |
| Agent 框架 | Dify / DeepSeek Harness | 开源 LLM 应用开发平台 / AI Agent 框架 |
| API 测试 | Postman / 更多工具 | API 测试 / 兼容协议的第三方工具 |
Token Plan 与 Coding Plan 仅限 AI 编码工具和 OpenClaw 类 Agent 使用;Dify、Postman 等工具必须用按量付费 API Key。
4.4 API 参考:模型 vs Agent
| 维度 | API 参考(模型) | API 参考(Agent) |
|---|---|---|
| 调用目标 | 模型本身 | 智能体/工作流应用 |
| 关键参数 | model | app_id |
| 适合 | 通用推理、内容生成、多模态 | 模型+知识库+插件封装后对外服务 |
4.5 套餐:Coding Plan 与 Token Plan
| 维度 | Coding Plan | Token Plan |
|---|---|---|
| 计费 | 固定月费(Pro 约 ¥200/月) | Credits 统一计量 |
| 版本 | 单一订阅 | 个人版 + 团队版(多席位、用量分析) |
| 适用范围 | 仅限 AI 编程工具、OpenClaw 类 Agent,禁止后端/自动化脚本 | 更广,覆盖多模型多工具 |
| 注意事项 | 专属 Key 与按量 Key 不互通 | 个人版/团队版数据条款不同 |
按量付费 API 与 Token Plan 团队版不会用你的数据训练;但 Token Plan 个人版与 Coding Plan 条款不同——Coding Plan 期间的输入/生成内容会用于服务改进与模型优化。[12] 正式立项前务必核对《服务协议》。
4.6 API Key 与鉴权要点
- 创建 Key 不需选模型,调用时用
model指定;可开启「访问模型范围」限制。 - 各地域 Key 独立、不能跨地域混用;可归属主账号或 RAM 用户;支持 IP + 模型范围自定义权限。
- 三种接入域名:业务空间专属(推荐,生产)/ DashScope(存量兼容)/ 试用(临时验证),SLA 分别为 99.9% / 99.9% / 无。
平台基础与交付
5.1 地域与部署范围
- 支持地域:北京、新加坡、法兰克福、东京、中国香港、弗吉尼亚。
- 两个独立概念:地域 = 接入点+数据存储位置;服务部署范围 = 推理实际执行位置(全球/欧盟/美国等)。静态数据始终存于所选地域。
- 功能差异(关键):模型调优、应用开发仅北京;批量推理、模型告警仅北京+新加坡。
5.2 权限管理(角色体系)
- 超级管理员:跨空间统一管理用户权限/限流/API Key。
- 业务空间管理员:仅管理特定业务空间内用户/资源。
- 普通用户:按授权使用资源。
5.3 监控与告警
模型监控:调用后分钟级可见,展示总量、调用次数、失败次数、平均时长、首包时长;可按时间/推理类型/API-Key 筛选,进入详情或审计日志。数据仅供参考、非计费依据。
5.4 模型生命周期(上下架)
快照模型(带日期)下线前 30 天通知,主线模型下线前 3 个月通知;下线后停止推理服务,已训练/部署模型不受影响。据此提前做模型迁移规划,避免线上服务中断。
5.5 内容安全与合规备案(上线红线)
| 项 | 是什么 | 何时做 |
|---|---|---|
| AI 安全护栏 | 识别输入输出违规内容(涉黄/涉政/广告等) | 面向用户开放上线前必须配置[13] |
| 应用合规备案 | 接入千问/万相的应用/小程序上架所需备案资料 | 上架应用市场前,否则可能被下架[14] |
| 模型备案公示 | 百炼公示所接入模型的算法备案号与大模型备案号 | 上架提交备案资料时核对 |
基于《生成式人工智能服务管理暂行办法》,未完成合规手续的应用可能被下架;开发者仍是服务提供者,需履行内容审核、用户保护、数据安全、标识规范等义务。
5.6 平台杂项
asset_id 引用5.7 数据安全与售后
- 数据安全:百炼通过 SOC 2 审计;阿里云不会用你的数据训练(按量付费/团队版口径);传输数据 AES-256 加密。
- 售后:服务期内 7×24 电话、智能在线、标准工单,覆盖模型/产品咨询、API/SDK 诊断、控制台/账号/计费问题;第三方工具仅提供方向性建议、不承担其运维责任。
产品经理决策速查
| 业务诉求 | 走哪条线 | 用哪个模块 |
|---|---|---|
| 就是要个大模型干活 | 模型线 | 模型广场 → 在线体验 / API 调用 |
| 通用模型不够懂我的行业 | 模型线 | 数据管理+清洗 → 模型调优 |
| 需要生产级高并发/低延迟 | 模型线 | 专属部署(DTU/PTU)+ Prime + 吞吐预留 |
| 自动省成本、避免手动选型 | 模型线 | 智能路由 + 节省计划 + 显式缓存 |
| 判断哪个模型/版本更好 | 模型线 | 模型评测 + 日志回流 |
| 批量生成图片/视频/音频 | 模型线 | 多模态生成专项(API 异步调用) |
| 定制专属风格/形象 | 模型线 | 图像/视频微调(SFT-LoRA) |
| 做客服/问答/助理产品 | Agent 线 | 智能体应用(Agent 2.0)+ 知识库 RAG |
| 固定流程自动化、多步骤 | Agent 线 | 工作流应用 |
| 把智能体嵌入自己系统 | Agent 线 | 托管智能体(Managed Agents)API |
| 模型读私域数据 / 调外部工具 | Agent 线 | 知识库 RAG / 插件 + MCP |
| 开发者快速上手 | 接入层 | OpenAI/Anthropic 兼容 + 20+ 工具 + CLI + SDK |
| 上线前合规 | 平台基础 | AI 安全护栏 + 应用备案 + 模型备案核对 |
| 控制成本、管权限、看监控 | 平台基础 | 预算管理、权限角色、模型监控 |