全部课程 / L1 基础层
L1-05 机器学习 101
学时 5h(3 次) 前置 L1-02(概率)、L1-03(优化) 性质 通识课
为什么学这门
这门课的价值不是学会几个算法,而是学会机器学习的基本思维方式——这套思维直接迁移到后面评价 AI 系统。
三个最重要的思维:
- 基线思维:任何新方法都必须打败一个傻基线。否则你不知道它有没有用。
- 泛化思维:训练集表现好不算数,要看没见过的数据。
- 误差分解:偏差 vs 方差——模型不行,是学得不够,还是学得太死?
这三条在 L4-05 设计打分卡时会原样复用。
课时拆解
第 1 次(2h)监督学习框架
- 特征、标签、假设空间
- 训练/验证/测试三分
- 过拟合与欠拟合的曲线特征
- 正则化:L1/L2、dropout 的直觉
- 交叉验证
动手:用 sklearn 在一个小数据集上画「训练误差 vs 验证误差」随模型复杂度变化的曲线。
第 2 次(1.5h)经典算法速览(不求深入)
- 线性回归 / 逻辑回归
- 决策树与随机森林(为什么树不需要归一化)
- KNN(懒惰学习的代价)
- 聚类 K-means
- 每个算法:一句话讲清它假设了什么
动手:同一数据集跑 5 个模型,列一张表:准确率、训练时间、是否需要归一化。
第 3 次(1.5h)偏差-方差与评估
- 偏差-方差分解
- 为什么 accuracy 在类别不平衡时会骗人
- precision / recall / F1 的取舍
- ROC-AUC 的含义
- 数据泄漏:最常见也最致命的错误
动手:造一个 99:1 不平衡数据集,让一个「全猜多数类」的模型拿到 99% accuracy,体会指标失效。
核心概念清单
- 为什么必须有测试集
- 过拟合的三种典型表现
- 偏差与方差分别对应什么
- 什么时候该看 recall 而不是 accuracy
- 什么叫数据泄漏
材料
- Google 的 Machine Learning Crash Course(选看前几节)
- sklearn 官方 user guide 的相关章节
验收作业
- 复杂度曲线:画训练/验证误差随多项式阶数变化的曲线,标出过拟合起点。
- 五模型对比表:表格形式,含准确率、训练耗时、是否需标准化、对异常值敏感度。
- 不平衡陷阱:构造 99:1 数据,展示 accuracy=99% 但 F1≈0 的结果,并说明该用什么指标。
- 数据泄漏案例:自己举一个「不小心泄漏」的例子(比如先做全量标准化再切分),说明它如何虚高分数。
第 3、4 题是重点。这两条直接对应你以后评价 benchmark 的能力。
常见卡点
| 卡点 | 真相 |
|---|---|
| 「公式太多」 | 这门课不推公式。只需要能说出每个方法的假设 |
| 「偏差方差分不清」 | 偏差=瞄偏了,方差=手抖。打靶比喻够用 |
| 「AUC 看不懂」 | 记住:随机取一个正样本和一个负样本,模型把正样本排前面的概率 |