【概念地基-8】AI 能做什么、不能做什么：建立合理预期

· 分类：概念地基

这一节点回答：现在的 AI 到底有多强

【小目标】

这一节点回答：现在的 AI 到底有多强？它能做什么、做不好什么、完全不能做什么？我们对 AI 应该有什么样的预期？

关键判断：AI 不是万能的，也不是一无是处——它在某些方面远超人类，在某些方面还不如小孩。 建立合理的预期，才能正确地使用 AI、正确地看待 AI。

【方法论】

一句话结论：AI 擅长"模式匹配"和"概率生成"，不擅长"真正的理解"和"精确的推理"。 凡是数据里有规律、可以容忍小错误的任务，AI 都擅长；凡是需要真正理解、零容错、需要世界知识的任务，AI 还不行。

AI 能力的三个层次
  ✅ 擅长的 —— 模式识别、内容生成、语言处理、简单推理
  ⚠️ 半行不行 —— 复杂推理、数学计算、事实准确性、长文本一致性
  ❌ 不行的 —— 真正的理解、自我意识、价值判断、常识推理（还不行）

① AI 已经很擅长的

  • 模式识别类：人脸识别、语音识别、图像分类、文字识别
    • 准确率超过人类水平
  • 内容生成类：写文章、写代码、画画、作曲、翻译
    • 质量已经达到"可用"甚至"很好用"的水平
    • 但需要人工审核和修改
  • 语言理解类：问答、摘要、分类、情感分析
    • 常用语言上表现很好
  • 简单决策类：推荐、风控、下棋
    • 在数据充足的场景下表现很好

规律：只要是"人做起来靠经验和直觉、不需要深度思考"的任务，AI 往往做得比人好。

② AI 半行不行、还需要人的

  • 复杂推理：多步数学题、逻辑推理题——有时候能做对，有时候做错，你还不知道它什么时候错
  • 事实准确性：经常"一本正经地胡说八道"（幻觉）——你不能完全信它说的
  • 长文本一致性：写长文容易前后矛盾、跑题
  • 精确计算：简单的算术都可能算错
  • 真正的创意：能组合已有的东西，但很难有"突破性的创意"
  • 判断对错：它不知道自己说的对不对——它只是在生成"看起来最像对的"内容

规律：凡是需要"每一步都对才能对"的任务，AI 都容易出问题——因为它是概率性的，不是确定性的。

③ AI 目前做不到的

  • 真正的理解：它能"说"出很多东西，但它"知道"自己在说什么吗？——这是个哲学问题，但从实际表现看，它没有真正的理解
  • 自我意识：它不知道"自己"的存在——它不是一个"人"，只是一个函数
  • 价值判断：什么是好的、什么是对的、什么有意义——它不会判断，只能模仿人类的判断
  • 真正的常识：很多人类觉得"理所当然"的常识，AI 可能不知道
  • 创新和突破：它能组合已有的想法，但很难有真正突破性的创新
  • 持续学习：训练完之后知识就"凝固"了——它不知道训练之后发生的事（除非用 RAG 或微调）

重要认知：AI 不是越来越聪明就会什么都会。 它的能力分布和人类不一样——它在某些方面远超人类，在某些方面还不如三岁小孩。

④ 几个常见的误区

  • ❌ "AI 什么都懂" —— 错，它有很多不知道的，还会编
  • ❌ "AI 会取代人类" —— 错，它会取代一些工作，但也会创造新工作，更多的是"改变工作方式"
  • ❌ "AI 越来越聪明，很快就会超过人类" —— 错，它在某些方面已经超过人类了，但在很多方面还很弱
  • ❌ "AI 只是统计学，没什么了不起" —— 错，统计学没错，但规模效应带来的能力飞跃是真实的
  • ❌ "AI 有自我意识" —— 错，目前完全没有，也看不到路径

⑤ 怎么正确使用 AI？

  1. 把它当"助手"，不要当"答案机"——它给的是参考，最终判断要自己来
  2. 用它擅长的，补它不擅长的——生成初稿、整理信息、激发灵感交给它；事实核查、最终决策自己来
  3. 验证重要内容——关键信息一定要去查原始来源
  4. 给它好的输入——你问得越清楚、给的上下文越多，它的输出越好
  5. 接受它会犯错——它不是完美的，学会利用它的优点、规避它的缺点

【知识点】

  • AI 擅长模式匹配和概率生成，不擅长真正的理解和精确推理。
  • AI 能力分布和人类不一样——有些方面远超人类，有些方面远不如人。
  • AI 已经很擅长的：模式识别、内容生成、语言处理、简单决策。
  • AI 半行不行的：复杂推理、事实准确性、长文本一致性、精确计算。
  • AI 做不到的：真正的理解、自我意识、价值判断、真正的创新。
  • 把 AI 当助手，不要当答案机——最终判断要自己来。
  • 重要内容一定要验证——AI 会一本正经地胡说八道。

【名词卡】

名词 一句话解释
Hallucination / 幻觉 AI 生成看似合理但不符合事实的内容——是当前 AI 的重要局限
Context Window / 上下文窗口 模型一次能处理的最大文本长度，决定了"记性"好不好
Cutoff Date / 知识截止日期 模型训练数据的截止时间——截止之后的事它不知道
AGI / 通用人工智能 能像人一样完成各种智力任务的 AI，目前还不存在
AI Safety / AI 安全 研究如何让 AI 安全可靠、不造成危害的领域
Alignment / 对齐 让 AI 的目标和人类的价值观保持一致的技术和研究
Singularity / 奇点 假设中 AI 超过人类智能并引发不可预测变化的时间点（科幻概念）
Weak AI / 弱 AI 只能做特定任务的 AI——我们现在所有的 AI 都是弱 AI

易混对比： 幻觉 vs 不知道（幻觉是"编一个假的装作知道"，不知道是"承认不知道"——前者更危险）；对齐 vs 安全（对齐是让 AI 目标和人类一致，安全的范围更广）

【练一练】

目标： 判断 10 个任务，AI 现在能不能做、做得好不好。

实验： 以下 10 个任务，请你判断 AI 当前的能力水平（✅ 很擅长 / ⚠️ 半行不行 / ❌ 做不到）：

  1. 识别照片里的人是谁
  2. 写一篇 500 字的产品介绍
  3. 做一道需要 5 步推理的数学证明题
  4. 给一段文字总结摘要
  5. 判断一个人说的话是不是发自内心
  6. 写一个简单的 Python 函数
  7. 告诉你明天的股票会不会涨
  8. 把中文翻译成英文
  9. 意识到自己"说错了"
  10. 给你推荐一部你可能喜欢的电影

思考题：

  • 你觉得 10 年后，上面哪些任务 AI 会做得更好？哪些还是不行？
  • 你最希望 AI 帮你做什么？最不希望 AI 做什么？
  • 如果你的工作里有 30% 的内容可以被 AI 替代，你会怎么应对？

相关文章