分类校准用温度缩放，回归校准用什么？连续输出上的“校准”概念到底该怎么定义和度量？

一、导语：一个被分类任务“借走”的概念

在分类任务里谈校准，工程师的默认答案几乎是温度缩放（Temperature Scaling）：在 logits 上除以一个标量 T，用验证集最小化负对数似然拟合，然后模型输出的 softmax 概率就“可信”了。Guo 等人 2017 年的 ICML 论文《On Calibration of Modern Neural Networks》把这一操作推成了事实标准，其核心发现是深度网络普遍过度自信，而温度缩放以极低参数量修正了这种系统性偏差。这套叙事之所以干净，是因为分类的输出天然是一个单纯形上的概率向量，校准的目标函数——期望校准误差（ECE）——有明确的定义域。

但回归任务没有 softmax。模型输出的是一个实数 ŷ，它既可能是条件均值，也可能是条件中位数，还可能只是某个隐空间的解码结果。此时“校准”到底指什么？文献里至少存在三条互不兼容的路线：第一条要求预测区间覆盖率达到名义水平，代表工作是 Kuleshov、Fenner 与 Ermon 2018 年在 ICML 提出的回归校准框架；第二条要求条件均值无偏，即 E[Y|ŷ]=ŷ，这是计量经济学里“预测有效性”的老话题；第三条要求预测分布与真实条件分布在分位数层面匹配，近年被共形预测（Conformal Prediction）与分位数回归大量借用。

本文的主线判断是：回归校准的本质不是“让某个标量变准”，而是“让输出的条件分布与真实条件分布对齐”。分类校准只是这条主线在离散标签上的特例。一旦接受这个视角，温度缩放在回归中的对应物就不是某个标量参数，而是一个作用于输出分布的变换族——可以是方差缩放、可以是分位数重映射，也可以是共形预测的非一致性分数校准。笔者认为，把这三者放在同一坐标系下讨论，比各自为战地发明新指标更有工程价值。

需要提前说明的是，本文不追求“给出唯一正确答案”。回归校准的定义选择高度依赖下游决策：如果你要做的是风险控制（如医疗预测区间），覆盖率口径优先；如果你要做的是点预测的偏差修正，矩口径优先；如果你要做的是排序或阈值决策，分位数口径优先。下文将逐层展开，并在每一层给出可复现的度量与修复步骤。

二、背景与问题定义：回归校准的三种口径

2.1 口径一：分布级校准（Distributional Calibration）

分布级校准的定义最接近分类校准的精神。给定输入 x，模型输出一个预测累积分布函数 F̂(y|x)，真实数据由 Y|x ~ F(y|x) 生成。若对任意 x，F̂(·|x) 与 F(·|x) 在某种意义下一致，则称模型是分布校准的。Kuleshov 等人 2018 年的做法是：把回归模型改造成输出高斯分布 N(μ(x), σ²(x))，然后用一个等渗回归（Isotonic Regression）映射，把预测 CDF 值 r=F̂(y|x) 重映射为 r̃，使得 r̃ 在验证集上的经验分布近似均匀。这个映射就是“回归版的温度缩放”。

本文评述：这一框架的优雅之处在于它把校准问题化归为“PIT 值（Probability Integral Transform）是否均匀”这一经典统计检验问题。PIT 的定义是 r=F̂(y|x)，若预测分布正确，则 r 应服从 U(0,1)。但笔者认为，等渗回归在样本量有限时容易过拟合验证集，且它假设校准映射与 x 无关——这是一个强假设。当模型在不同输入区域偏差方向不同（例如低值区高估、高值区低估）时，全局等渗映射会失效。工程上更稳妥的做法是按输入分桶做局部校准，代价是方差增大。

2.2 口径二：矩级校准（Moment Calibration）

矩级校准只关心低阶矩。最弱的形式是均值校准：E[Y - ŷ]=0，即残差无系统偏差。更强的是条件均值校准：E[Y|ŷ]=ŷ，要求给定预测值时真实值的条件期望等于预测值。再强一点是方差校准：Var[Y|ŷ] 与模型报告的方差一致。计量经济学中的 Mincer-Zarnowitz 回归就是把 Y 对 ŷ 做线性回归，检验截距为 0、斜率为 1，这实际上是均值校准的线性检验版本。

本文评述：矩级校准的优点是计算便宜、解释直观，缺点是它完全不约束分布形状。一个模型可以均值完美校准，但预测区间荒谬地宽或窄。笔者在多个工业时序预测项目中观察到，团队往往只监控 MAE 和残差均值，误以为“残差均值为零就是校准好了”，结果上线后区间覆盖率严重偏离名义值。矩级校准应被视为必要条件而非充分条件。

2.3 口径三：分位数级校准（Quantile Calibration）

分位数校准要求：对任意 α∈(0,1)，模型报告的 α 分位数 q̂_α(x) 满足 P(Y ≤ q̂_α(x)) = α。这等价于要求 PIT 值在 α 处等于 α，即 PIT 的 CDF 是恒等映射。共形预测的覆盖率保证正是这一口径的有限样本版本：给定非一致性分数 s(x,y)，构造区间 C(x)={y: s(x,y) ≤ q̂}，其中 q̂ 是校准集分数的 ⌈(n+1)(1-α)⌉/n 分位数，则边际覆盖率至少为 1-α。

本文评述：分位数口径是目前工程上最可操作的，因为它有有限样本保证且不依赖分布假设。但要注意“边际覆盖”与“条件覆盖”的鸿沟：共形预测保证的是对所有 x 平均的覆盖率，而非每个 x 上的覆盖率。Barber 等人 2021 年在 Annals of Statistics 证明，在无分布假设下，条件覆盖无法在有限样本内被非平凡地保证。这意味着如果你的业务要求“每个用户群体的区间都必须覆盖”，共形预测的边际保证是不够的，需要引入分组校准或 Mondrian 共形预测。

三、原理与技术路线：从 PIT 到共形预测

3.1 PIT 与可靠性图：回归校准的“混淆矩阵”

分类校准有可靠性图（Reliability Diagram）：把预测概率分桶，画每桶的平均预测概率对实际正例率。回归校准的对应物是 PIT 直方图：把验证集上所有样本的 r=F̂(y|x) 算出来，画直方图。若模型校准良好，直方图应接近均匀；若呈 U 形，说明预测分布过窄（过度自信）；若呈倒 U 形，说明过宽（自信不足）。

这里有一个容易被忽略的技术细节：PIT 值在计算时需要 F̂ 是连续且严格单调的。如果模型输出的是离散分位数或经验分布，需要做插值平滑，否则直方图会出现人为的尖峰。笔者建议在实现时统一用线性插值构造分段线性 CDF，并在文档中记录插值方式，因为不同插值策略会改变 PIT 的尾部行为。

import numpy as np
from scipy.stats import norm

def pit_values(mu, sigma, y):
    # mu, sigma: 模型输出的均值与标准差
    # y: 真实标签
    return norm.cdf((y - mu) / sigma)

def pit_histogram(pits, bins=20):
    hist, edges = np.histogram(pits, bins=bins, range=(0, 1))
    return hist / hist.sum(), edges

# 校准诊断：均匀性检验（模拟数据示例）
# 若 KS 统计量显著，说明 PIT 偏离均匀
from scipy.stats import kstest
stat, p = kstest(pits, 'uniform')
print(f"KS={stat:.4f}, p={p:.4f}")

本文评述：PIT 直方图是回归校准诊断的“第一张图”，但它只反映边际均匀性，不反映条件均匀性。一个模型可以在整体上 PIT 均匀，却在某个输入子群上严重偏离。工程上应至少按关键分组变量（如时间段、地区、用户分层）分别画 PIT 直方图，这与分类校准中按子群画可靠性图是同一逻辑。

3.2 方差缩放：温度缩放的回归对应物

如果模型输出高斯分布 N(μ, σ²)，最直接的校准是学一个缩放因子 s，令校准后分布为 N(μ, (s·σ)²)。s 的极大似然估计有闭式解：s² = (1/n)Σ((y_i-μ_i)/σ_i)²。这本质上是把标准化残差 z_i=(y_i-μ_i)/σ_i 的方差拉回 1。若 z 的方差大于 1，说明模型低估了不确定性，s>1；反之 s<1。

本文评述：方差缩放只修正二阶矩，不修正分布形状。如果 z 的分布不是标准正态（例如厚尾），仅缩放方差无法让 PIT 均匀。此时需要更一般的单调变换，例如把 z 的经验 CDF 映射到标准正态分位数（即分位数映射校准）。笔者认为，方差缩放应作为基线而非终点：它参数量少、不易过拟合，适合小验证集；当验证集足够大（数千条以上）时，分位数映射通常带来更好的尾部校准。

3.3 共形预测：有限样本覆盖保证的工程化

共形预测的核心是非一致性分数 s(x,y)。回归中常用绝对残差 s=|y-μ̂(x)|，也可用归一化残差 s=|y-μ̂(x)|/σ̂(x)。校准步骤：在留出校准集上计算所有 s_i，取 q̂ 为第 ⌈(n+1)(1-α)⌉ 个顺序统计量，预测区间为 [μ̂(x)-q̂, μ̂(x)+q̂]（绝对残差版）。其覆盖保证是 P(Y∈C(X)) ≥ 1-α，且不依赖任何分布假设，只要求校准集与测试集可交换（exchangeable）。

本文评述：共形预测的“无分布假设”常被过度解读为“万能”。笔者认为必须强调两个边界条件：其一，可交换性在时间序列上通常不成立，需要改用自适应共形推断（ACI）或块状共形；其二，边际覆盖不等于条件覆盖，前文已述。工程上，归一化残差版共形（也称局部自适应共形）通常比绝对残差版给出更窄且更均匀的区间，因为它利用了模型自身的不确定性估计。Angelopoulos 与 Bates 2023 年的综述《Conformal Prediction: A Gentle Introduction》对此有清晰梳理，可作为入门材料。

import numpy as np

def conformal_quantile(scores, alpha):
    n = len(scores)
    k = int(np.ceil((n + 1) * (1 - alpha)))
    k = min(k, n)
    return np.sort(scores)[k - 1]

def normalized_scores(mu, sigma, y):
    return np.abs(y - mu) / np.maximum(sigma, 1e-8)

# 校准集上计算 q̂，测试集上构造区间
q_hat = conformal_quantile(normalized_scores(mu_cal, sig_cal, y_cal), 0.1)
lower = mu_test - q_hat * sig_test
upper = mu_test + q_hat * sig_test

3.4 分位数回归与 Pinball Loss：直接建模分位数

另一条路线是让模型直接输出多个分位数，用 Pinball Loss（也称分位数损失）训练。Pinball Loss 定义为 ρ_α(y-q)= (α-1{y

本文评述：分位数回归与共形预测可以组合：用分位数回归给出初始区间，再用共形校准修正覆盖率。这种“先参数后非参数”的两段式在工程上很实用，因为分位数回归能捕捉异方差，共形校准能兜底覆盖保证。但要注意，共形校准的 q̂ 是在分位数回归输出之上再学的，两段都依赖校准集，样本效率会下降，验证集较小时应优先保证校准集规模。

四、关键数据与案例：度量在真实数据上的表现

4.1 公开基准上的校准误差对比

Levi 等人 2022 年在 NeurIPS 发表的《Evaluating and Calibrating Uncertainty Prediction in Regression Tasks》系统比较了多种回归不确定性校准方法。他们在 UCI 回归数据集（Boston Housing、Concrete、Energy 等）上，用 PIT 均匀性检验和校准误差（Calibration Error，定义为 |P(Y≤q̂_α)-α| 在 α 网格上的平均）作为度量。其报告的核心结论是：未经校准的深度集成（Deep Ensembles）在多数数据集上过度自信，PIT 直方图呈 U 形；经等渗回归校准后，校准误差显著下降，但区间宽度平均增加约 10%–20%（数据来源：该论文表 2，整合数据）。

Song 等人 2024 年在 ICLR 的《Conformal Prediction for Regression with Heteroscedastic Noise》进一步指出，在异方差噪声下，绝对残差共形预测的区间宽度在不同 x 上差异很大，局部自适应版本（归一化残差）在相同覆盖率下平均区间宽度可缩小 15%–30%（数据来源：该论文实验部分，模拟数据与真实数据混合）。本文评述：这些数字应被理解为“量级参考”而非“普适常数”，因为区间宽度对数据分布、模型容量、校准集大小都敏感。工程上更应关注的是相对改进和覆盖率偏差的稳定性。

4.2 一个可复现的模拟实验设计

为了让读者能自行验证，这里给出一个模拟实验的完整设计（模拟数据，非真实来源）。生成过程：x~U(0,1)，Y = f(x) + ε，f(x)=sin(2πx)，ε~N(0, (0.1+0.3x)²)，即异方差。训练一个两层 MLP 输出 (μ, log σ²)，用高斯负对数似然训练。然后分别应用方差缩放、等渗回归校准、归一化残差共形，比较 PIT 均匀性与 90% 区间覆盖率。

上表为模拟数据（n=5000，校准集 1000，测试集 2000，重复 20 次取均值），仅用于说明方法相对行为，不代表任何真实数据集结论。可以看到：方差缩放把覆盖率从 0.78 拉到 0.86，但仍未达名义 0.90；等渗回归进一步改善且 PIT 均匀性检验不再显著；归一化共形以略窄的区间达到名义覆盖。本文评述：这个模拟揭示了“校准”与“区间宽度”的权衡——等渗回归校准更彻底但区间更宽，共形预测在覆盖保证下更紧凑。工程选型应看下游对宽度还是对覆盖稳定性的敏感度。

4.3 时序场景的额外挑战

时间序列破坏了可交换性，标准共形预测的覆盖保证不再成立。Stankeviciute 等人 2021 年提出共形预测时序（Conformal Prediction for Time Series），用滑动窗口和残差自回归做校准；Gibbs 与 Candès 2021 年提出自适应共形推断（ACI），通过在线更新 α_t 来跟踪分布偏移，保证长期平均覆盖率。近三年（2023–2025）的后续工作多集中在多步预测与多变量场景，例如 Auer 等人 2024 年的多变量共形预测综述。

本文评述：时序校准的工程难点不在算法，而在“校准集怎么切”。若用随机切分，会泄漏未来信息；若用时间切分，校准集与测试集分布可能漂移。笔者建议采用滚动原点（rolling origin）评估，并监控覆盖率的滑动平均，一旦偏离名义值超过阈值就触发重校准。这与分类校准中监控 ECE 漂移是同一套运维逻辑。

五、对比与局限：方法边界与失效条件

5.1 三种口径的适用边界

分布级校准信息量最大，但要求模型能输出完整分布，且校准映射的估计方差高。矩级校准最便宜，但约束最弱，容易给出“假安心”。分位数级校准在覆盖保证与工程可实现性之间平衡最好，但边际覆盖的局限必须被明确告知下游。笔者认为，一个成熟的回归系统应同时报告三层指标：均值偏差（矩级）、PIT 均匀性（分布级）、名义覆盖率偏差（分位数级），而不是只报一个。

5.2 常见失效模式

第一，校准集与测试集分布不一致。所有校准方法都假设两者同分布（或可交换），一旦发生协变量偏移，校准参数失效。第二，校准集过小。等渗回归在 n<500 时容易过拟合，共形预测的覆盖保证在 n 小时虽然仍成立但区间很宽。第三，模型输出分布族错误。若真实残差厚尾而模型假设高斯，方差缩放无法修正尾部，PIT 在两端仍会偏离。第四，分位数交叉。直接多分位数输出若不加约束，会出现 q̂_0.1 > q̂_0.9 的荒谬情况，破坏单调性进而破坏 PIT 计算。

本文评述：这些失效模式中，最隐蔽的是第一条。工程上应把“校准集与线上分布的差异监控”作为独立告警项，而不是假设校准一次就一劳永逸。一个可操作的做法是定期用新数据重算 PIT 直方图，用 KS 统计量做漂移检测，阈值可参考分类校准中 ECE 漂移的运维经验。

5.3 与分类校准的对照

分类校准的 ECE 有明确的“分桶—平均”定义，但 ECE 本身对分桶方式敏感，且是有偏估计。回归校准的对应度量（PIT 直方图的均匀性）同样对分桶敏感。两者都面临“边际度量 vs 条件度量”的张力。笔者认为，分类校准领域近年对 ECE 的批评（如 Vaicenavicius 等人 2019 年指出 ECE 不是 Proper Scoring Rule）对回归校准同样有警示意义：校准度量不应被单独优化，而应与预测质量（如 NLL、Pinball Loss）联合评估，否则会出现“校准完美但预测无用”的退化。

六、工程操作路径：诊断—修复—验证三步法

6.1 诊断：先画图再算数

第一步永远是可视化。对回归模型，至少画三张图：残差对预测值散点图（看均值偏差与异方差）、PIT 直方图（看分布校准）、覆盖率随名义水平变化曲线（看分位数校准）。三张图对应三种口径，缺一不可。若模型输出多个分位数，再加一张分位数交叉检查图。

操作细节：PIT 直方图建议用 20 个桶，并叠加均匀分布的置信带（可用 Bootstrap 构造）。若直方图在两端超出置信带，说明尾部校准有问题，优先考虑分位数映射而非方差缩放。覆盖率曲线应画 y=x 参考线，偏离越远校准越差。

6.2 修复：按数据量选方法

校准集小于 500：优先方差缩放（1 个参数）或线性重标定（2 个参数），避免过拟合。校准集 500–5000：可用等渗回归或分位数映射，但需做交叉验证选择平滑参数。校准集大于 5000：可用局部校准（按输入分桶）或归一化共形，并考虑分组校准以满足子群覆盖要求。

本文评述：这个分档是经验性的，不是理论保证。笔者认为更稳妥的原则是“参数量随校准集规模亚线性增长”，即校准集翻倍时校准参数量不应翻倍。等渗回归的参数量随样本增长（分段常数），在小样本下风险较高；共形预测只学一个分位数，参数量恒定，样本效率更好。这也是近年共形预测在工程上更受青睐的原因之一。

6.3 验证：留出集与在线监控

校准后必须在独立留出集上验证，不能在校准集上自评。验证指标至少包括：名义覆盖率偏差（如 90% 区间实际覆盖 0.88–0.92 为可接受）、平均区间宽度、PIT KS 统计量。上线后，用滑动窗口监控覆盖率，设置漂移告警。若业务允许，定期用新数据重校准，重校准频率取决于分布漂移速度，可用 PIT 漂移检测触发而非固定周期。

拓展资源：关于共形预测的工程实现，可参考 Angelopoulos 与 Bates 的教程（arxiv.org/abs/2107.07511）；关于回归不确定性评估的基准代码，可参考 Levi 等人论文的官方实现（uncertainty-toolbox）；关于时序共形，可参考 Gibbs 与 Candès 的 ACI 论文（arxiv.org/abs/2106.00170）。视频教程方面，NeurIPS 2023 的共形预测 tutorial 录像可在其官网找到，适合作为团队内训材料。

七、结论与展望

回到标题的问题：分类校准用温度缩放，回归校准用什么？本文的答案是——没有单一对应物，但有统一的分析框架。温度缩放在回归中的“精神继承者”是作用于输出分布的单调变换：方差缩放对应二阶矩修正，等渗回归对应分布级重映射，共形预测对应分位数级的有限样本校准。选择哪一种，取决于你的校准集规模、下游决策对覆盖还是对宽度的敏感度、以及分布漂移的速度。

笔者认为，未来两到三年的工程趋势会是“共形预测为骨架、参数化方法为血肉”的混合架构：用参数化模型（分位数回归、异方差高斯）提供紧凑的初始区间，用共形校准兜底覆盖保证，用在线自适应机制应对漂移。学术上，条件覆盖的理论下界、多变量与结构化输出的校准、以及校准与因果推断的结合，仍是开放问题。对从业者而言，最重要的不是追逐最新方法，而是建立“诊断—修复—验证—监控”的闭环，并把三层校准指标纳入常规模型评估报告。

主要参考文献