摘要:在真实数据上,偶然不确定性(aleatoric uncertainty)与认知不确定性(epistemic uncertainty)几乎从不以“干净分离”的形态出现。本文不打算再重复“用异方差回归估偶然、用集成/贝叶斯估认知”的常规叙事,而是把问题重新表述为:解耦的目标量本身是否可辨识。文章沿着“定义—可辨识性—技术路线—评测基准—工程落地”这条主线展开,逐一拆解异方差回归、深度集成、MC Dropout、证据深度学习(EDL)、潜变量分解等方法的边界条件,并用表格对比其隐含假设与失效场景。核心结论是:所谓“真值”并不是一个与数据无关的固定数值,而是依赖数据生成机制、观测粒度与模型假设的条件量;因此更合理的做法是放弃追求绝对真值,转而建立相对可验证的分解一致性准则。文中给出了一套可执行的解耦流程与验证清单,并讨论了该方向在安全关键场景中的现实边界。
目录
一、问题的提出:为什么“解耦”在真实数据上总是失效
不确定性量化(Uncertainty Quantification, UQ)在机器学习里被反复讨论,但真正落到工业数据上,最常被问到的问题并不是“模型能不能给出置信区间”,而是“这个置信区间里,哪一部分是数据本身噪声造成的、哪一部分是模型没见过而造成的”。前者通常被称为偶然不确定性,后者被称为认知不确定性。这个二分法在教科书里非常清晰:偶然不确定性源于数据生成过程中的随机性,理论上不可通过增加同分布数据消除;认知不确定性源于模型参数或结构的知识匮乏,理论上可通过更多数据或更强先验收缩。
问题在于,真实数据几乎不满足这种“干净二分”的前提。以工业设备剩余寿命预测为例,同一型号轴承在相同工况下的失效时间存在天然离散,这是偶然性;但传感器采样频率、标注人员对“失效”的判定口径、以及训练集只覆盖了部分工况,又会把本属于认知层面的缺口混入观测噪声的估计中。于是,一个在验证集上表现良好的异方差回归模型,可能把“没见过的工况”错误地解释为“高噪声”,从而系统性地低估认知不确定性。这类失败在文献中并不罕见,但往往被归因为“模型不够好”,而不是“目标量本身不可辨识”。
笔者认为,当前讨论中存在一个被普遍忽略的前提:解耦方法输出的两个数值,是否对应数据生成机制中两个客观存在的量?如果答案是否定的,那么讨论“哪个方法更准”就失去了意义,因为不存在一个独立于方法和数据的参照系。本文的主线正是围绕这一点展开:先把“真值”问题形式化,再逐条检验现有方法在何种条件下能够逼近这个条件量,最后给出工程上可操作的替代准则。
提示:本文讨论的“解耦”指将预测总不确定性分解为偶然与认知两部分,而非因果推断中的“解耦表示学习”。两者术语相同但目标不同,阅读时需注意区分。
二、定义与可辨识性:真值问题的形式化拆解
2.1 两个不确定性的标准定义及其隐含假设
设数据生成过程为 y = f(x) + ε,其中 ε 为随机噪声。偶然不确定性通常被定义为在给定输入 x 下,条件分布 p(y|x) 的熵或方差,即 Var[y|x];认知不确定性则被定义为模型参数后验 p(θ|D) 下的预测方差,即 Var_θ[E[y|x,θ]]。Kendall 与 Gal 在 2017 年的工作把这两项合并进一个异方差回归损失,成为后续大量工程的默认范式。本文评述:这一分解在数学上是干净的,但它默认了两件事——其一,p(y|x) 的方差确实只由噪声决定;其二,参数后验能够被合理近似。真实数据中,这两条都容易被动摇。
更关键的是,上述定义中的“真值”实际上是相对于某个数据生成分布而言的条件量。换一个观测粒度、换一个标注口径,Var[y|x] 就会改变。这意味着,脱离数据生成机制去谈“偶然不确定性的真值”,在概念上就是不完整的。笔者认为,这一点应当成为讨论解耦方法时的第一性前提,而不是事后补充的注意事项。
2.2 可辨识性:为什么两个量在有限数据下难以分离
从统计角度看,偶然与认知的分离本质上是一个方差分解问题。总方差可写为 Var[y] = E_x[Var(y|x)] + Var_x[E(y|x)],前者对应偶然部分,后者对应由输入分布引起的部分。但认知不确定性并不直接等于第二项,它还与模型族、先验、训练集覆盖范围有关。换言之,我们试图从一个可观测的总方差中,拆出两个在有限样本下并不独立可估的分量。
这就引出了可辨识性(identifiability)问题:在只有有限观测、且模型假设可能错误的情况下,是否存在唯一的一组(偶然,认知)分解与数据一致?答案通常是否定的。不同的模型族可以拟合出相同的边际预测分布,却给出截然不同的分解。这一点在潜变量模型中尤为明显——同一个观测分布可以由“低噪声+强先验”或“高噪声+弱先验”两种配置生成。本文评述:这不是方法缺陷,而是问题本身的结构性特征。承认这一点,才能避免把“分解结果不稳定”误判为“实现有 bug”。
一个直观的形式化:设观测数据 D = {(x_i, y_i)},模型族 M,先验 π(θ)。分解结果 (u_a, u_e) 是 (D, M, π) 的函数。若存在另一组 (M', π') 使得边际似然相同但分解不同,则在该数据下分解不可辨识。工程上能做的,是在给定 M 与 π 的前提下,检验分解对扰动的稳定性,而非宣称得到了绝对真值。
三、主流解耦路线的机制、假设与失效边界
3.1 异方差回归:把噪声当成可学习参数
异方差回归的核心做法是让网络同时输出均值 μ(x) 与方差 σ²(x),并以高斯负对数似然作为损失。其优点是实现简单、训练稳定,在回归任务中被广泛采用。但它的隐含假设是:预测方差完全由偶然噪声解释,模型参数被视为点估计。本文评述:这等于把认知不确定性人为置零,因此在分布外样本上会给出过度自信的方差估计。工程上常见的一种补救是对方差输出加下界约束,但这只是缓解数值不稳定,并未解决概念上的缺失。
更细致的问题在于,σ²(x) 在训练中会吸收一切无法被均值解释的残差,包括标注错误、特征缺失和分布偏移。于是“偶然不确定性”这个标签下,实际混入了大量本应归入认知层面的成分。这正是真实数据上“纠缠不清”的直接来源之一。
3.2 深度集成与 MC Dropout:用扰动近似后验
深度集成(Deep Ensembles)通过训练多个独立初始化的模型,用预测离散度近似认知不确定性;MC Dropout 则在推理阶段保持 dropout 开启,以多次前向的方差作为近似。两者在实践中的区别主要在于计算成本与近似质量。Lakshminarayanan 等人在 2017 年的工作表明,深度集成在多个回归与分类基准上优于 MC Dropout,且对超参数不敏感。本文评述:这类方法的认知不确定性估计高度依赖“扰动是否覆盖了真实的知识缺口”。如果所有集成成员都在同一训练分布内,离散度反映的更多是优化随机性,而非分布外认知。
此外,集成方差与偶然方差在数值上并不天然可加。工程中常见的做法是把总方差减去集成方差作为偶然方差,但这种减法在方差估计有偏时会放大误差。笔者认为,在没有外部校验的情况下,这种“减法式解耦”应当被视为启发式,而非严格估计。
3.3 证据深度学习:用证据分布替代点估计
证据深度学习(Evidential Deep Learning, EDL)用狄利克雷或正态逆伽马分布参数化预测,把“证据量”直接映射为认知不确定性。Sensoy 等人在 2018 年提出分类版本,Amini 等人在 2020 年将其扩展到回归。其吸引力在于单次前向即可给出分解,计算成本低。本文评述:EDL 的分解质量对证据正则项非常敏感,且在分布外样本上容易出现“证据塌缩”或“证据膨胀”两种极端。已有工作指出,EDL 的不确定性排序在部分基准上并不优于深度集成,这一点在选型时需要正视。
3.4 潜变量分解与生成式路线
以变分自编码器为代表的生成式路线,试图通过显式的潜变量结构把数据中的随机性与模型认知分开。其思路是把观测建模为 p(y|x,z)p(z),其中 z 承载认知层面的不确定性。本文评述:这条路线在理论上更贴近“生成机制”,但训练难度高、后验塌缩常见,且分解结果对先验选择敏感。在真实工业数据上,其可复现性目前仍弱于集成类方法。
| 方法 | 偶然估计方式 | 认知估计方式 | 主要失效场景 |
|---|---|---|---|
| 异方差回归 | 直接输出 σ²(x) | 无(视为零) | 分布外过度自信 |
| 深度集成 | 总方差减集成方差 | 成员间离散度 | 成员同质化、减法偏差 |
| MC Dropout | 同上 | 多次前向方差 | 近似质量依赖 dropout 率 |
| EDL | 分布参数 | 证据量 | 证据塌缩/膨胀 |
| 潜变量生成 | 观测噪声项 | 潜变量后验 | 后验塌缩、先验敏感 |
上表并非要排出优劣,而是想说明:每种方法的“解耦”都建立在一组明确的假设之上,一旦真实数据违反假设,分解结果就会偏离。工程选型的正确姿势,是先判断数据与哪组假设最接近,而不是默认某种方法更“先进”。
四、评测基准与“真值”的构造:我们能验证什么
4.1 合成数据上的“真值”是构造出来的
在合成数据上,研究者可以显式设定噪声方差与模型族,从而得到一个已知的分解。这类实验在方法论文中很常见,也常被用来宣称“本方法更接近真值”。本文评述:合成数据上的真值本质上是研究者自己定义的,它验证的是方法能否恢复设定,而不是方法在真实数据上是否有效。把合成结论直接外推到真实场景,是当前文献中较普遍的过度解读。
更严谨的做法是把合成实验定位为“机制检验”:它回答的是“在假设成立时方法是否自洽”,而不是“在真实数据上分解是否正确”。这两者的证据强度差别很大,写作与汇报时应当明确区分。
4.2 真实数据上的替代验证指标
既然没有绝对真值,工程上可行的验证就转向“行为一致性”。常见的有三类:其一,分布外检测能力,即认知不确定性是否在分布偏移样本上显著升高;其二,选择性预测,即按不确定性排序剔除高不确定样本后,剩余样本的误差是否下降;其三,校准性,即预测区间的覆盖率是否接近名义水平。这三类指标都不直接检验分解的“正确性”,但能检验分解是否可用。
笔者认为,这种转向是必要的,但也需要警惕:一个分解可能在选择性预测上表现良好,却在因果解释上完全错误。因此,验证指标应当与使用目的绑定,而不是追求一个通用的“解耦分数”。
4.3 数据集与预处理说明
本文讨论所依据的公开资源主要包括 UCI 回归数据集族、预测不确定性基准(如 PULSE 相关评测)、以及工业设备退化类公开数据。需要说明的是,不同数据集的预处理口径差异很大:缺失值填补方式、异常值截断阈值、特征标准化范围都会影响方差估计。以 UCI 的混凝土强度数据为例,若对目标变量做对数变换,偶然方差的尺度会随之改变,跨研究比较时必须统一口径。本文不虚构任何作者团队实验,涉及数值均标注为公开数据或模拟整合数据。
延伸阅读可参考 scikit-learn 官方文档中关于不确定性量化的章节(scikit-learn 文档),以及 PyTorch 生态中深度集成实现的公开教程(PyTorch Tutorials)。这些资源适合作为工程落地的起点,但需注意其示例多为合成或标准数据集,迁移到真实场景前应重新校验假设。
五、可操作的解耦流程与工程验证清单
5.1 一条可执行的解耦主线
基于前文分析,笔者建议把解耦工程拆成五个阶段,每个阶段都有明确的输入输出与退出条件,而不是一上来就选模型。
阶段一:明确使用目的(选择性预测 / 主动学习 / 安全告警)
阶段二:刻画数据生成机制(噪声来源、标注口径、覆盖范围)
阶段三:选择与假设匹配的方法族(集成 / EDL / 异方差)
阶段四:构造行为一致性验证(OOD 检测、覆盖率、选择性误差)
阶段五:固化口径并监控漂移(版本化预处理、定期重校准)
这个流程的关键在于阶段二。很多团队跳过数据生成机制的刻画,直接进入模型对比,结果是在错误的假设下比较方法,结论自然不可靠。笔者认为,阶段二的产出应当是一份简短的“不确定性来源清单”,逐条标注哪些是天然随机、哪些是标注引入、哪些是覆盖不足,这份清单比任何单一指标都更能指导后续选型。
5.2 验证清单
在落地前,建议逐项核对以下问题:分解结果是否对随机种子稳定;在人为构造的分布偏移下,认知分量是否单调上升;预测区间的经验覆盖率与名义覆盖率偏差是否在可接受范围;偶然分量是否在重复测量中保持相对稳定。任何一项不通过,都应回到阶段二重新审视假设,而不是继续调参。
需要强调的是,这套清单检验的是“分解是否有用且自洽”,而非“分解是否等于某个客观真值”。在真实数据上,后者往往不可验证。
六、结论与展望:从追求真值到追求一致性
回到标题的问题:现有解耦方法到底有没有一个公认的“真值”?本文的答案是——在真实数据上,不存在一个独立于数据生成机制与模型假设的绝对真值。所谓真值,是相对于特定观测粒度与生成过程的条件量。承认这一点,并不意味着解耦没有意义,而是意味着评价标准需要从“逼近真值”转向“分解一致性”与“行为可用性”。
展望来看,笔者认为有三个方向值得投入:其一,建立更贴近真实数据的不确定性基准,明确标注数据生成机制与预处理口径;其二,发展对假设不敏感的分解方法,例如在多个模型族上做一致性约束;其三,把不确定性分解纳入工程监控体系,像监控模型精度一样监控分解的漂移。只有把“真值”问题转化为“一致性”问题,解耦方法才能真正从论文走向产线。
主要参考文献
[1] Kendall A, Gal Y. What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? NeurIPS, 2017.
[2] Lakshminarayanan B, Pritzel A, Blundell C. Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles. NeurIPS, 2017.
[3] Sensoy M, Kaplan L, Kandemir M. Evidential Deep Learning to Quantify Classification Uncertainty. NeurIPS, 2018.
[4] Amini A, Schwarting W, Soleimany A, Rus D. Deep Evidential Regression. NeurIPS, 2020.
[5] Abdar M, et al. A Review of Uncertainty Quantification in Deep Learning. Information Fusion, 2021.
[6] Gawlikowski J, et al. A Survey of Uncertainty in Deep Neural Networks. Artificial Intelligence Review, 2023.
[7] Hüllermeier E, Waegeman W. Aleatoric and Epistemic Uncertainty in Machine Learning: An Introduction to Concepts and Methods. Machine Learning, 2021.
[8] Valdenegro-Toro M, Mori D. A Deeper Look into Aleatoric and Epistemic Uncertainty Disentanglement. CVPR Workshops, 2022.
[9] Wimmer L, Sale Y, Hofman P, Bischl B, Hüllermeier E. Quantifying Aleatoric and Epistemic Uncertainty in Machine Learning: Are Conditional Entropy and Mutual Information Appropriate Measures? UAI, 2023.
文章声明:本文内容仅为作者学习、思考、经验、笔记的总结,仅供技术交流与参考。文中观点仅代表笔者个人思辨,不构成任何学术建议、商业建议或专业建议。所有数据来源已标注,引用时请以原始文献为准。

