真正的考试在训练集之外

统计学家把预测误差拆成三部分。偏差是模型「系统性地错」：它太简单，不管给多少数据都抓不住真实规律，误差集中在同一个方向。方差是模型「不稳定地错」：换一批训练数据，它学出来的东西就大不相同，因为它对数据里的偶然太敏感。第三部分是不可约误差：数据本身的噪声，任何模型都消不掉。

欠拟合是高偏差，过拟合是高方差。增加模型复杂度会降低偏差、增加方差；增加数据量会降低方差而不改变偏差。这个分解解释了为什么「更多数据」在深度学习时代如此重要：深度网络的偏差很低（它几乎什么函数都能表达），瓶颈几乎总在方差上，而压方差最可靠的办法就是数据。

它也解释了一个看起来矛盾的现象：为什么参数量远超样本量的大模型没有严重过拟合。经典理论预测它们方差会爆炸，但实践中，足够大的模型加上足够多的数据、恰当的正则化和早停，泛化反而更好。这个现象被称为「双下降」，是 2019 年之后理论界仍在消化的问题。

把数据分三份的做法有一个前提：数据足够多，留出一部分也不心疼。当你只有三百个样本（一个班级三年的记录、一种罕见病的病例），留出三分之一做测试，训练数据就不够了，而且测试结果会因为「恰好留出了哪些样本」而剧烈波动。

交叉验证是标准的补救：把数据分成 $k$ 份（常用 5 或 10），轮流拿其中一份做测试、其余做训练，得到 $k$ 个成绩，取平均。每个样本都当过一次考题，又都参与过训练，成绩的估计既充分又稳定。代价是要训练 $k$ 次。

它还有一个更重要的用途：比较不同的模型或设置时，只看一次划分的结果很可能是噪声在做决定，交叉验证的平均值和方差能告诉你差距是不是真的。当有人说「我们的新方法比旧方法高了 0.8 个百分点」，值得问一句：这个数字是一次划分的还是交叉验证的，方差有多大。

需要注意的仍然是时间顺序：对有时间的数据，交叉验证的每一折也必须「用过去测未来」，否则又是偷看未来。

大多数分类模型输出的不是「是」或「否」，而是一个概率，比如「这封邮件是垃圾邮件的概率是 0.83」。是否判为垃圾邮件，取决于你把门槛设在哪里。门槛 0.5 是默认，但没有任何理由认为它是对的。

把门槛从 0 滑到 1，每个位置都会得到一对（假阳性率，真阳性率），把它们画成曲线，就是 ROC 曲线。曲线下的面积（AUC）衡量模型在所有门槛下的整体区分能力：0.5 是瞎猜，1 是完美。它比准确率稳健得多，因为它不依赖于任何一个门槛，也不受类别比例影响。

但 AUC 也只是一个数。真正的部署决策是：在这条曲线上选哪个点？这个问题模型回答不了，因为它需要知道误报和漏报各自的代价，而代价是由使用它的人和被它影响的人决定的。这是本章反复强调的一件事：评估指标的选择本身就是一个价值判断，把它藏在「技术细节」里是不诚实的。

准确率是一个平均数，平均数会藏东西。一个整体错误率 5% 的模型，可能在某个人群上错误率 1%、在另一个人群上 20%。只要后者人数少，平均数就看不出来。

这不是假设。人脸识别系统在不同肤色、性别人群上的错误率差异被多次独立测量过，差距可达几倍到几十倍，原因通常是训练数据里某些人群的样本太少。语音识别对口音、儿童声音、老年人声音的错误率也显著高于「标准」成年人。学情预警模型如果用历史数据训练，而历史上某类学生被老师关注得更少、记录更不完整，模型就会「学会」对他们更不准。

技术上的应对是把评估指标按人群拆开报告：不只报一个准确率，而是报每个群体的精确率、召回率，并检查差距。更难的是决定「公平」指什么：让各群体的误报率相等，和让各群体的漏报率相等，在数学上通常不能同时做到，必须选一个。这又是一个价值判断，不是技术判断。

对使用者的一条实用建议：当一个 AI 产品报告准确率时，问「按人群拆开呢？」如果对方答不上来，说明他们没测过，也就不知道它对谁不准。

泄漏之所以危险，是因为它让模型在测试时看起来很好。下面这些形式在真实项目里反复出现。

1. 未来的信息混进了特征。用「最终成交价」的某个函数来预测成交价；用「是否开住院单」预测住院。
2. 标签的代理变量。「客户经理备注长度」与「是否违约」高度相关，因为违约后经理会写很多备注。
3. 数据处理顺序。先对全部数据做标准化（减均值除方差），再划分训练和测试，测试集的统计量已经进入了训练。
4. 重复样本跨越划分。同一个病人的多次检查被随机分到了训练集和测试集，模型「认出」了这个人。
5. 时间上的偷看。随机划分有时间顺序的数据。
6. 标识符携带信息。样本编号是按时间或按类别分配的，模型从编号里学到了标签。
7. 人工标注的痕迹。标注员在正样本的图片上留下了固定的裁剪方式或水印。
8. 缺失值的模式。某个字段只在阳性样本里缺失（因为流程不同），「是否缺失」本身成了答案。
9. 系统行为的副作用。账号在退学后被停用，「最后登录时间」泄漏了退学。
10. 测试集被反复用来选模型。这是人自己造成的泄漏，见本章「考试制度」。

发现泄漏的一个可靠信号是「好得不像话」：如果一个新特征让准确率从 80% 跳到 98%，先怀疑泄漏，再庆祝。

既然模型只能学到相关，怎样才能知道「做 X 会不会导致 Y」？统计学在一百年前就给出了答案：随机实验。把对象随机分成两组，一组做 X，一组不做，比较 Y。随机分组保证了两组在所有其他方面（包括你没想到的那些）平均而言相同，于是差异只能来自 X。

互联网公司把它叫作 A/B 测试，每天做成千上万次：一半用户看到新按钮，一半看到旧的。教育研究把它叫作随机对照试验，是判断一种教学方法是否有效的黄金标准。第五章开头「平板与成绩」的问题，正确的做法不是训练更大的模型，而是随机给一部分学生发平板，一个学期后比较。

随机实验有它的限制。有些干预不能随机（不能随机让一半学生辍学），有些太贵或太慢，有些在伦理上不允许。于是有了一整套「从观察数据里推因果」的方法：自然实验、双重差分、工具变量、因果图。它们都需要对数据产生过程做出假设，而假设需要领域知识。这门课不展开它们，但要记住一句话：因果是设计出来的，不是从数据里挖出来的。当一个 AI 产品声称「发现了 X 导致 Y」，问它：你随机分组了吗？如果没有，你假设了什么？

1973 年，加州大学伯克利分校被指控在研究生录取中歧视女性：总体上男性申请者的录取率明显高于女性。但按院系分开看，大多数院系里女性的录取率反而更高。

矛盾的原因是女性更多地申请了竞争激烈、录取率低的院系。合起来看，这个「申请去向」的差异被隐藏了，制造出一个总体的假象。这就是辛普森悖论：一个变量（院系）同时影响了原因（性别分布）和结果（录取率），把它忽略掉，相关的方向可以完全反转。

对机器学习的教训是：模型学到的相关，可能整个是由一个没进入特征的变量制造的。而找出这种变量，靠的不是更多数据或更强的算法，而是对这个领域的理解。这也是为什么再好的模型也不能替代懂业务的人。

部署不是终点。一个负责任的机器学习系统上线后，至少要盯着四件事。

输入的分布。每个特征的均值、方差、缺失率，与训练时比较。特征分布一变（新平台上线、政策调整、季节更替），模型的表现就不再有保证。这一项能在真实标签到来之前发出预警。

输出的分布。模型预测「高风险」的比例是否突然变化？如果上周标了 8% 的学生，这周标了 30%，多半不是学生变了，是数据变了。

延迟到来的真实表现。很多任务的标签要等一段时间才有（期末成绩、是否再入院、是否违约）。等它到了，重新算一遍指标，按人群拆开。

人的反馈。使用者是否在绕过系统？老师是否不再看预警名单？这些信号比任何指标都早。

监控的成本常常超过训练的成本，而这笔账在立项时往往没人算。第二章两次寒冬的教训之一就在这里。