给科研人的机器学习实用课

一个材料课题组做了三年实验，积累了两百多种合金配方和它们的硬度。他们想知道：能不能用这些数据预测没做过的配方，少做一些实验？

这是校园里最常见的机器学习问题，它和第七到九章的大语言模型几乎没有关系。它用的是第四、五章的东西，只是数据少得多、每个样本贵得多、而且出错的代价是几周的实验白做。第十三章讲了 AI 做科学的宏大图景；这一篇讲桌面上的事：你手里的几百个数据，具体该怎么办。

它假设你读过第四、五章。如果没有，先读它们，再回来。

一、先问清楚问题

第四章的七步流程第一步是定义任务，在科研里这一步尤其容易跳过。三个问题值得在写第一行代码前回答。

预测出来用来做什么？如果是筛选（从一万个候选里挑一百个去做实验），你需要的是排序能力，前一百个里有多少真的好，比整体误差重要。如果是解释（哪些因素影响硬度），你需要的是可解释的模型，一个准确率高但说不出为什么的黑箱帮不上忙。如果是设计（找到硬度最高的配方），你需要的是第六节讲的优化，而不是预测。

错了的代价是什么？漏掉一个好配方，和把一个差配方送去做实验，哪个更贵？这决定了第五章讲的精确率和召回率该偏向哪边。

数据能代表要预测的东西吗？两百个配方是怎么选出来的？如果全是某一类合金，模型对另一类一无所知。这是第五章的抽样偏差，在科研里的形式是：你的数据反映的是你以前感兴趣的区域。

二、样本怎样变成数字

第四章说样本是一行数字。对订单，这一行是距离和时段；对分子和材料，这一行是什么，是科研机器学习最核心的问题，叫「表示」。

手工描述符。人根据领域知识定义的几十到几百个数：分子的分子量、极性、环的数量、氢键供体数；合金的元素电负性均值、原子半径差、混合熵。这是第四章的特征工程，在小数据上至今是最好用的，因为每个数都带着物理意义，模型学出来的规律人能读懂。有现成的库能从分子式或化学式自动算出几百个。

指纹。把分子里出现的子结构编码成一个几千位的 0/1 向量：有苯环的第 137 位是 1，有羧基的第 502 位是 1。不需要训练，由规则生成，是化学信息学里相似性搜索的标准工具，配树模型很强。

图神经网络。把分子表示成图：原子是节点，化学键是边。网络让每个原子从相邻原子那里收集信息，一轮一轮传递（叫「消息传递」），几轮之后每个原子的向量包含了它周围的环境，再汇总成整个分子的向量。这是第六章表示学习在分子上的形式：不再由人定义描述符，而是从数据里学。它需要几千到几万个样本才开始超过树模型加描述符。

预训练模型。第七到九章的做法搬到分子和蛋白质上：在几亿个分子的字符串表示或几亿条蛋白质序列上自监督预训练，得到一个「懂化学」或「懂蛋白质」的模型，然后在你的几百个样本上微调，或者直接把它输出的向量当作描述符用。这让小数据也能受益于大数据，是 2022 年之后科研机器学习最重要的变化之一。

一个科研模型与通用模型最大的不同：物理约束可以直接写进网络。分子旋转一下性质不变，所以网络对旋转应当不变；能量应当守恒，所以网络的输出应当满足某些关系。把这些写进结构，模型用更少的数据学到更对的东西。

三、小数据的配方

两百个样本，怎么做？

先做傻基线。永远预测平均值，误差是多少？一个线性回归，误差是多少？这两个数字告诉你「多好算好」。很多论文里的模型比傻基线好不了多少，只是没人算过。

默认用树模型。梯度提升树（第四章的深入段落讲过）在表格数据上是小数据的默认选手：对特征的尺度不敏感，能处理缺失，几乎不需要调参就有不错的结果，还能告诉你哪些特征重要。两百个样本上，一个调好的梯度提升树很难被任何神经网络打败。

考试制度要更严。数据少，随机划分的波动就大：换一个随机种子，误差可能差一倍。用第五章讲的交叉验证，并且报告方差而不只是均值。更重要的是划分的方式：如果你的两百个合金里有几十个只是同一配方的微调，随机划分会把「几乎相同」的样本分到训练和测试两边，成绩会假得漂亮。要按「家族」划分：同一骨架的分子、同一批次的实验、同一基体的合金，整组放在同一边。这是科研机器学习论文里最常见的错误，没有之一。

调参要在训练集内部做。用交叉验证选超参数，然后在从未碰过的测试集上报告一次。如果你反复看测试集调模型，第五章说过，你自己就成了过拟合的一部分。数据少时这个错误尤其致命，因为几个样本就能让成绩看起来好很多。

特征不要太多。两百个样本配三百个描述符，模型能「记住」而不是「学会」。先用领域知识删掉明显无关的，再用正则化或特征选择，最后看留下的特征是否说得通。

四、不确定性：科研比准确率更需要它

一个预测「这个配方硬度 620」的模型，和一个预测「620 ± 15」或「620 ± 200」的模型，对研究者的价值天差地别。前者你不知道该不该信，后两者告诉你该不该去做实验。第十三章说 AlphaFold 能被信任是因为它说出自己何时不确定，这一点在小数据上更重要。

三种常用的办法。集成：训练几十个略有不同的模型（不同的随机种子、不同的数据子集），它们预测的分散程度就是不确定性；简单、通用、和任何模型都能配。高斯过程：一种直接输出预测分布的模型，在几百个样本、几十个特征的尺度上非常好用，也是下一节贝叶斯优化的标准引擎。共形预测：一种不依赖模型类型的「后处理」，用一部分留出数据校准，给出「有 90% 概率包含真值」的区间，保证是数学上的，前提是新数据与校准数据同分布。

不确定性最实用的用法：把它画出来。哪些区域的不确定性大，就是模型没见过的区域，也就是第五章「分布偏移」的地图。在那里的预测不要信，或者去那里做实验。

五、实验很贵：下一个该测哪个

预测只是手段，很多时候研究者真正的问题是：我只能再做二十个实验，该做哪二十个？

这是第三章「探索与利用」在实验室里的形态。做已知区域附近的实验（利用），大概率结果不错但学不到新东西；做远处的实验（探索），可能失败但会告诉你模型不知道的事。贝叶斯优化把这个权衡变成一个算法。

流程是：用已有数据训练一个带不确定性的模型（通常是高斯过程）；对每个候选配方算一个「采集分数」，同时奖励「预测值高」和「不确定性大」；选分数最高的去做实验；结果加入数据，重来。它常常用几十个实验找到几百个随机实验才能找到的最优点，在催化剂、合金、电池电解液、工艺参数的优化上已经是标准做法。

配上第十三章讲的自动实验室，这个循环可以不需要人：算法选，机器人做，仪器测，结果回来，再选。它是「自驱动实验室」的核心。但它也有第五章的老问题：候选空间是人定义的，模型只会在这个空间里找；空间之外的惊喜，它永远不会提议。

六、序列、图像与光谱

不是所有科研数据都是表格。

图像：显微照片、电镜图、病理切片、天文图像。第六章的卷积网络是标准工具，而且几乎不需要从头训练：在自然图像上预训练的网络，换掉最后一层，用几百张你的图片微调，通常就很好。这叫迁移学习，是小数据图像任务的默认做法。要小心的是第五章的泄漏：同一个样品的多张照片必须在同一边。

光谱与时间序列：拉曼、红外、质谱、传感器读数。它们是一维的「图像」，一维卷积或者把它们当作序列送进第八章的 Transformer 都可行；在小数据上，先做傅里叶变换或峰提取变成描述符，再用树模型，往往更稳。

生物序列：DNA、RNA、蛋白质。第七章的语言模型技术几乎原样适用，而且已经有在几亿条序列上预训练好的模型，取它输出的向量当描述符，是当前最强的起点之一。

七、科研版的错误清单

第五章讲了泄漏、偏差、偏移。下面是它们在科研论文里的具体形态，每一条都在发表的论文里反复出现。

1. 随机划分了有家族结构的数据。同一骨架的分子、同一批次的实验、同一病人的多张影像分在两边。对策：按家族划分。
2. 用全部数据做了预处理。标准化、特征选择、降维在划分之前做，测试集的信息进了训练。对策：所有预处理只在训练集上拟合。
3. 反复看测试集。对策：嵌套交叉验证，测试集只看一次。
4. 没有基线。报告了 0.92 的相关系数，没说线性回归能到 0.90。对策：永远报告傻基线和简单基线。
5. 在训练分布之外外推。模型在合金硬度 300 到 700 的数据上训练，用来预测 1000。对策：画出不确定性，标明适用范围。
6. 指标与目标不符。目标是筛选，报告的是整体误差。对策：报告前 K 个的命中率。
7. 数据太少就上深度学习。两百个样本训练一个图神经网络，结果不如树模型，但论文只报告了网络。对策：先树后网，都报告。
8. 把相关当因果。模型发现「含铬量与硬度正相关」，论文写成「铬提高硬度」。对策：第五章的随机实验，或者至少说明这是相关。

一条总的建议：审稿人越来越懂这些。在方法部分主动写清划分方式、基线、不确定性和适用范围，是今天科研机器学习论文可信度的标志。

八、工具与路线

不需要成为程序员，但需要知道工具的名字。表格数据：scikit-learn 加一个梯度提升库；分子：RDKit（描述符、指纹、图）；材料：pymatgen 与 matminer（结构与描述符）；深度学习：PyTorch；贝叶斯优化：几个成熟的库。它们都是开源的、有文档的、有大量例子的。

第十二章讲的编程智能体对科研数据分析特别有用：告诉它「用这两百个样本训练一个梯度提升树，按骨架划分做五折交叉验证，画出预测对实测的图和特征重要性」，它能在几分钟内给出可运行的代码和图。你的工作是第一节的三个问题、第七节的清单、以及看结果是否说得通。这个分工，正是第十四章的分工表。

九、一个完整的例子

回到开头的合金组。他们最后是这样做的。

问题：从两百三十个配方预测硬度，用来从五千个候选里挑二十个去做。所以目标是排序，指标是「挑出的二十个里有几个进入真实前 5%」。

表示：从化学式算出一百二十个元素统计描述符（电负性、原子半径、价电子数的均值、方差、极差）。

考试制度：按主元素分成六个家族，做留一家族交叉验证；每个家族当一次测试集。这比随机划分的成绩低了不少，但更接近「预测一个新家族」的真实情况。

模型：傻基线（均值）误差 85；线性回归 62；梯度提升树 41；一个小网络 47。选树。

不确定性：五十棵树的集成给出预测区间；在两个家族上区间很宽，说明数据不够，模型标出了自己的盲区。

选择：不用预测值最高的二十个，而是用贝叶斯优化的采集分数，兼顾「预测高」和「不确定」，其中六个落在模型没见过的区域。

结果：二十个里有七个进入真实前 5%，随机挑的期望是一个。两个「不确定区」的配方之一意外地好，成为下一轮的起点。

这个例子里没有一步需要大模型，也没有一步需要超过一台笔记本的算力。它需要的是第五章的纪律和对自己数据的了解。这是校园里绝大多数 AI 应用的真实样子。