样本不均衡的实践处理：何时处理、怎么处理

遇到样本不均衡（class imbalance），很多人第一反应是”少数类太少，补一点”。但如果理解只停在这一步，后面很容易做出一连串代价高、却未必服务业务目标的操作。真正可用的框架是按顺序走完下面几步：先判断要不要处理，再守住评估，然后从最便宜的手段开始，最后才考虑改数据。

这篇文章中的问题也可以和机器学习导论：监督学习与贝叶斯方法放在一起阅读，以比较相近的概念如何在不同语境中展开。

第一步：先判断要不要处理

处理不均衡之前，先做一个转向：不要先问”我该不该 SMOTE”，而要问”我要优化的是排序、概率，还是最终决策收益”。 这三个目标在不均衡场景下并不等价：

只关心排序（正例是否排在负例前面）：用 AUROC / PR-AUC 这类指标，很多时候什么都不用做；
关心概率（输出的 0.8 是否真的接近 80%）：需要可校准的概率输出；
关心最终收益（误报与漏报代价不同）：阈值移动和代价敏感才是关键。

把”样本不均衡”拆成三种经常被混在一起的现象，它们对应不同的处理思路：

训练集类别失衡：最常见的场景，head 类样本多、tail 类少。
稀有事件概率估计：要稳定估计一个很小的事件概率（违约率、并发症风险、故障率）。
部署期先验偏移：训练集与测试集、线上流量的类先验不同（label shift）。

什么时候其实不需要处理

特征区分度足够高：少数类与多数类在特征空间几乎不重叠时，即使比例 1:10000，标准模型也能学得很好；
绝对样本数足够大：总量百万级时，tail 类占 0.1% 也有上千条，不算瓶颈；
树模型天然能扛一部分：XGBoost / LightGBM 这类提升树对中等程度的不均衡有很好的自适应能力；
业务不关心 tail 类表现：只在乎整体排序或 head 类精度时，刻意提升 tail 反而拉低主要目标。

结论：先验证不均衡是否真的在伤害你关心的指标，再决定动不动手。 有时问题不在比例，而在特征质量或标签噪声。

第二步：先守住评估，别被 Accuracy 骗了

不平衡场景下，排序质量、概率质量和决策质量必须分开谈。具体指标的算法与选择细节见监督学习性能评估，这里只给实践结论：

强不均衡下，PR 曲线往往比 ROC 更能反映实际压力：ROC 把大量真负例也算进来，很多模型会显得”挺不错”；PR 空间更直接地暴露误报成本。
至少同时报告 prevalence、PR-AUC、per-class 指标和阈值选择规则，多分类长尾再加 macro 指标和 head/tail 分层结果。只报 Accuracy 或 AUROC 都可能过于乐观。

第三步：从最便宜的开始——阈值移动与权重

只要模型能给出合理的概率排序，很多问题根本不需要改数据：

阈值移动（threshold moving）：把决策阈值从默认的 0.5 移到业务代价对应的位置。不重训、不破坏训练分布，是最划算的第一步。注意 F1 最优阈值不是”通用阈值”，它有一些反直觉的性质——阈值是决策，不是默认值。
类别权重：XGBoost 的 scale_pos_weight、LightGBM 的 is_unbalance / 类别权重，等价于给样本加权，能保留原始分布，也不破坏测试集先验。
代价敏感学习：如果漏报和误报的代价不同，默认 0.5 阈值就没有天然正当性。欺诈检测里漏掉一个高风险交易远贵于多审查几个正常交易；医学早筛更愿意用误报换召回。直接把代价写进损失函数或决策阈值，比重采样更干净。

第四步：还不够就改数据——重采样

前两步解决不了（极端不均衡、少数类被多数类包围、代价高度不对称）时，才动数据。三类做法：

欠采样（undersampling）：去掉一些反例使正反例数目接近。缺点是会丢多数类信息，改进版是 EasyEnsemble：把反例划分成若干集合供不同学习器使用，每个学习器都做了欠采样，但全局不丢信息。
过采样（oversampling）：增加一些正例。注意不能简单复制初始正例，否则会招致严重过拟合；一般用插值生成额外正例，SMOTE 就是在少数类局部邻域内插值合成样本。它有效的前提是少数类邻域里有可插值的结构——如果少数类夹在多数类里或带标签噪声，合成样本只会污染边界。
集成 + 采样：把采样嵌进集成流程，例如 SMOTEBoost 在每轮更关注难学的 tail 样本。

最关键的顺序纪律：先切分训练/测试集，再只在训练集内部做采样。 先 SMOTE 再切分，会让训练集与测试集共享局部邻域结构、测试结果虚高——这是最经典的数据泄漏。

特殊目标：稀有事件要的是概率

如果目标不是”把正负类分出来”，而是估计稀有事件发生的概率（违约率、故障率、并发症风险），标准模型在正例很稀少时会系统性低估事件概率——不均衡影响的不只是分类边界，还有参数估计本身。此时盲目重采样不是第一选择：

保留原始先验，做 prior correction（把采样后的先验修正回真实先验）；
训练后单独做概率校准（Platt / Isotonic / Temperature Scaling）；
不要把重平衡后的分数直接当成风险概率——过采样、重加权都会改写训练先验，模型输出的分数未必还能解释成真实世界的后验概率。

深度模型与预训练时代：长尾已经没那么重要

传统长尾学习的核心困难是 tail 类表示不稳定——样本太少，backbone 学不到可靠的特征结构。但大规模预训练模型（CLIP、DINOv2、大语言模型等）改变了这个前提：

tail 类表示不稳定靠预训练缓解：预训练已经学到相当通用的表示空间，tail 类下游样本再少也有足够好的起点；
零样本 / 少样本能力直接绕过了长尾：视觉语言模型甚至能用文本描述识别训练集中从未出现过的类别。

所以在我关注的场景里，长尾学习已经不那么重要了。深度模型若仍必须处理不均衡，要点是”解耦表示学习与分类头偏置”并关注校准，而不是堆 Focal Loss、LDAM 这类重加权技巧。

常见误区（检查清单）

切分之前做过采样——数据泄漏。永远先切分，再只在训练集内部采样。
只报 Accuracy 或 AUROC——都可能过于乐观；至少同时报告 prevalence、PR 指标、per-class 指标。
在平衡测试集上讲故事，却默认真实部署先验不变——balanced benchmark 不是现实先验。
把 tail 类精度的提升当成概率可信的提升——分类改善和概率改善必须分别验证。
把不均衡当成唯一问题，忽略重叠和噪声——少数类混在多数类里或带噪声时，提高权重只是在更努力地学噪声。

一页纸选型

场景	第一选择	可以叠加什么	不要一上来做	建议汇报指标
小样本表格二分类	分层切分、class weight、阈值调优	训练集内适度过采样或 EasyEnsemble	切分前 SMOTE；只报 Accuracy	PR-AUC、Balanced Accuracy、MCC
提升树为主的数据任务	先验证是否真需要处理；必要时 scale_pos_weight + 阈值移动	代价敏感、少量采样	盲目 SMOTE	PR-AUC、per-class、混淆矩阵
稀有事件概率预测	保留原始先验，逻辑回归 / GBDT + 校准	case-control 采样、prior correction、isotonic/temperature scaling	把重平衡后的分数当风险概率	Brier、Calibration、PR-AUC
需要可靠概率输出的风控 / 医疗	先定义部署先验和成本再训练	calibration、threshold moving、label-shift correction	只看 tail accuracy 就上线	Calibration curve、Brier、ECE

默认操作顺序：先定义目标（排序 / 概率 / 收益）→ 先守住评估（验证集先验贴近部署）→ 先做简单基线（class weight、阈值移动、正确指标、分类头修正）→ 再上复杂方法（采样、重加权）→ 最后补概率（校准）。

结语

把前面串成一句：真正稳定的不均衡处理，不是某一个万能技巧，而是”训练目标、评价指标、部署决策”三者的一致性设计。 大多数情况下，先把评估守住、再移动阈值、再调权重，就已经解决大部分问题，改数据永远排在最后。当你把不均衡看成从数据分布到部署决策的整条链路，方法反而更容易选对。