此讲座笔记为本人手写版笔记经AI转成电子版

3.6 AI：我们该如何面对 GPT 的未来？

一、AI 的本质与模型

  • 本质：模型 → 数据模型
  • 初始形态：专家系统、符号化
  • 问题：
    ① 规则多；② 无法用规则简单规律反复验证 → 可约性（数物化 ∨ 气候 ×经济 χ）
  • 案例：How 识别（1~9？）→ 模式化 → 个性化（Eg. How 识别“读猫”？）
  • 数学表达 $ y = ax^2 + bx + c $（x 输入，y 输出，a,b,c 参数）→ 训练
    • 给 (x,y) → 监督学习（最好！判断、执行：给 x 即可）

二、AI 发展的关键难点

  1. 公式与神经网络：
    • 天选：$ a,b,c $ → 难点：公式是什么？神经网络！
    • 无法算参数 → 调参数（参数组 → 找准确率“炼丹师”）
  2. 算力与算法：
    • GPT3.5 千亿参数 → 难点：怎么算？不用优化算法，靠算力！
    • CPU→GPU（简单并行计算）：V100、A100、H100（全禁运？）
  3. 华为与缺陷：
    • 华为→能用，但难（会有根本缺陷？生活中无“真数学”！）
    • 误区：① 并没有真实参数，只能逼近；② 局部规律未必是全局规律；③ 相关不是因果！
    • 例子：Ice-cream 和游泳池（奥斑马老婆→黑猩猩？→ 无关）

三、AI 的真相与局限

  • 真相：月亮，AI 指出“并非真相，但好用”
  • 时代 AI 最大问题：常识 + 逻辑推理 → 常识无数据，不言而喻，无法被训练！
  • 通用 AI 不可行：一个参数组不能适用多种情况（人脑→1 模型）
  • GPT 的飞跃：堆高参数 → “常识”飞跃！LLM 时代！
  • 判若时刻：扇子能放在人的嘴里？（藏）→ 位置、大小
  • 佛学词形容：如计算机（量词）

四、少样本学习 & 思维链

  • ③ 思维链：把“错误”改成“成对（发自自我）”→ 逻辑
  • Why 具有这些能力：不知道 → 涌现；无法解释 → 随机突破
  • 数学：次假设成立条件（不证明，只负责“工科”→ 能用；文科→自成道理；理科→创概问所）

五、好问题与提问

  • 好问题 → 好答案；提问 ≫ 答案
  • 知识、常识 → 共识 → 背景知识
  • 提问：
    ① 回家；② 鉴赏家（不要选喜欢的，选“擅长”的 → 寻找）
    ③ 擅长 → 干而不累、成就反馈；② 对不好烦躁；③ 能干肯干
  • Don’t be the best, Be the only.