AI 学位·
全部课程 / L1 基础层

L1-05 机器学习 101

学时 5h(3 次) 前置 L1-02(概率)、L1-03(优化) 性质 通识课


为什么学这门

这门课的价值不是学会几个算法,而是学会机器学习的基本思维方式——这套思维直接迁移到后面评价 AI 系统。

三个最重要的思维:

  1. 基线思维:任何新方法都必须打败一个傻基线。否则你不知道它有没有用。
  2. 泛化思维:训练集表现好不算数,要看没见过的数据。
  3. 误差分解:偏差 vs 方差——模型不行,是学得不够,还是学得太死?

这三条在 L4-05 设计打分卡时会原样复用。


课时拆解

第 1 次(2h)监督学习框架

  • 特征、标签、假设空间
  • 训练/验证/测试三分
  • 过拟合与欠拟合的曲线特征
  • 正则化:L1/L2、dropout 的直觉
  • 交叉验证

动手:用 sklearn 在一个小数据集上画「训练误差 vs 验证误差」随模型复杂度变化的曲线。

第 2 次(1.5h)经典算法速览(不求深入)

  • 线性回归 / 逻辑回归
  • 决策树与随机森林(为什么树不需要归一化)
  • KNN(懒惰学习的代价)
  • 聚类 K-means
  • 每个算法:一句话讲清它假设了什么

动手:同一数据集跑 5 个模型,列一张表:准确率、训练时间、是否需要归一化。

第 3 次(1.5h)偏差-方差与评估

  • 偏差-方差分解
  • 为什么 accuracy 在类别不平衡时会骗人
  • precision / recall / F1 的取舍
  • ROC-AUC 的含义
  • 数据泄漏:最常见也最致命的错误

动手:造一个 99:1 不平衡数据集,让一个「全猜多数类」的模型拿到 99% accuracy,体会指标失效。


核心概念清单

  • 为什么必须有测试集
  • 过拟合的三种典型表现
  • 偏差与方差分别对应什么
  • 什么时候该看 recall 而不是 accuracy
  • 什么叫数据泄漏

材料

  • Google 的 Machine Learning Crash Course(选看前几节)
  • sklearn 官方 user guide 的相关章节

验收作业

  1. 复杂度曲线:画训练/验证误差随多项式阶数变化的曲线,标出过拟合起点。
  2. 五模型对比表:表格形式,含准确率、训练耗时、是否需标准化、对异常值敏感度。
  3. 不平衡陷阱:构造 99:1 数据,展示 accuracy=99% 但 F1≈0 的结果,并说明该用什么指标。
  4. 数据泄漏案例:自己举一个「不小心泄漏」的例子(比如先做全量标准化再切分),说明它如何虚高分数。

第 3、4 题是重点。这两条直接对应你以后评价 benchmark 的能力。


常见卡点

卡点 真相
「公式太多」 这门课不推公式。只需要能说出每个方法的假设
「偏差方差分不清」 偏差=瞄偏了,方差=手抖。打靶比喻够用
「AUC 看不懂」 记住:随机取一个正样本和一个负样本,模型把正样本排前面的概率