Course 3：机器学习策略（上）
课程简介
学习误差分析、偏差方差权衡、正交化等系统化 ML 方法论。
一、机器学习策略
1.1 正交化
正交化的含义是一个控制旋钮只控制一件事。监督学习系统需要四个方面的"假设"成立：
- 训练集表现好——如果不好：网络不够大、优化算法有问题
- 开发集表现好——如果不好：过拟合了，需要正则化
- 测试集表现好——如果不好：开发集和测试集分布不一致
- 实际应用表现好——如果不好：开发集设定不对或成本函数不匹配
好的人正交化意味着调每个参数只影响一个方面。
1.2 单一评估指标
使用单一实数指标做决策：F1 Score（精确率和召回率的调和平均），或自定义加权指标。
$$F_1 = 2 \times \frac{P \times R}{P + R}$$
1.3 训练/开发/测试集划分
指导原则：
- 开发集和测试集必须来自同一分布
- 开发集足够大以检测显著差异（通常1000-10000样本）
- 测试集用于最终评估，不用于决策
1.4 偏差与方差
| 训练误差 | 验证误差 | 问题 |
|---|---|---|
| 高 | 高 | 高偏差（欠拟合） |
| 低 | 高 | 高方差（过拟合） |
| 低 | 低 | 理想情况 |
深度学习打破了传统偏差-方差权衡：可同时实现低偏差+低方差。
1.5 人类水平表现
贝叶斯最优误差 ≈ 人类误差。可避免偏差 = 训练误差 - 贝叶斯误差。
如果可避免偏差大 → 减少偏差（更大网络、更久训练）
如果方差大 → 减少方差（正则化、更多数据）
1.6 误差分析
从开发集抽出100个错误样本，分类统计错误原因，优先解决占比最高的类型。
1.7 数据分布不匹配
创建训练-开发集（从训练集分布取一部分），对比三个指标区分过拟合和分布不匹配。
1.8 迁移学习
在大型数据集上预训练→在目标任务上微调。
- 数据少：只训练新输出层
- 数据中等：微调最后几层
- 数据充足：微调整个网络
1.9 多任务学习
一个网络同时学习多个相关任务。条件：任务共享低层特征、单个任务数据有限、网络足够大。
1.10 端到端学习
一个神经网络直接映射输入到输出，取代多阶段流水线。需要大量数据支持，数据不足时混合方法更好。
延伸阅读
- 📺 B 站播放列表：Deep Learning Specialization — 深度学习专项课程
- 📚 更多学习资源，请访问 deeplearning.ai 官网