AI蒸馏：操作型经验蒸馏效果远超认知型经验，那设计师的审美、科学家的方向判断，真的只能放弃吗？

摘要：知识蒸馏在操作型经验（可观测动作、可验证输出）上的迁移效率已被大量工程实践证实，而在认知型经验（审美判断、研究方向取舍、风险直觉）上则长期表现不佳。本文提出一条贯穿全文的分析主线——“可验证性梯度”：经验能否被蒸馏，取决于其判断依据能否被外部化为可采样、可对齐、可反事实检验的信号，而非取决于它“高级”与否。围绕这条主线，本文拆解蒸馏的能力边界、认知型经验的编码路径、过程奖励与偏好建模的工程细节，并给出审美与方向判断的可操作蒸馏流程、评估协议与失效边界。结论是：认知型经验并非不可蒸馏，而是需要从“结果监督”转向“过程监督 + 判据显式化 + 反事实校准”的三段式改造。

目录

一、问题的提出：为什么“操作型”先被蒸馏成功

知识蒸馏（Knowledge Distillation）最初由 Hinton 等人在 2015 年系统提出，其核心是把一个容量大、精度高的教师模型（teacher）的输出分布作为软标签，指导学生模型（student）训练，从而在压缩参数量的同时保留大部分性能。这一框架在图像分类、语音识别、机器翻译等任务上被反复验证有效。但工程界很快发现一个不对称现象：凡是“输入—动作—可验证输出”链条清晰的经验，蒸馏效率都很高；凡是判断依据停留在专家头脑中、难以外部化的经验，蒸馏几乎失效。

这种不对称在近两年的推理模型训练中表现得尤为明显。以 OpenAI 的 o1 系列、DeepSeek-R1 为代表的工作表明，通过拒绝采样（rejection sampling）从强模型中筛选高质量推理轨迹，再对弱模型做监督微调或偏好优化，可以在数学、代码等可自动判分的任务上实现显著的能力迁移。而一旦任务换成“这段文案的调性是否合适”“这个研究方向值不值得投入三年”，同样的流水线就会迅速退化——因为缺少可靠的自动判分器，教师的高质量判断无法被稳定地采样和筛选。

笔者认为，这一现象常被误读为“认知型经验更高级、更不可言说”，从而导向一种消极结论：设计师的审美、科学家的方向判断只能靠人带人，无法进入模型。这个结论在工程上是站不住脚的。真正的原因不在于经验“高级”，而在于判断依据的可验证性不足。可验证性不是经验本身的固有属性，而是可以被工程手段提升的变量。本文的全部论证都围绕这一点展开。

为了让讨论有共同基础，先给出两个操作性定义。操作型经验指判断过程可分解为明确的输入特征、动作序列与可自动或半自动判定的结果，例如代码补全、SQL 生成、工业质检中的缺陷分类。认知型经验指判断结果依赖于对多维、弱约束、长周期信号的加权与取舍，且判据本身往往未被专家显式表述，例如版式审美、研究方向的优先级排序、投资中的风险直觉。两者的差别不是“难易”，而是判据是否可外部化。

二、可验证性梯度：一条贯穿全文的分析主线

2.1 主线的形式化表述

本文提出的核心分析工具是“可验证性梯度”（Verifiability Gradient）。对任一经验类型 E，定义其可蒸馏性 D(E) 为三个因子的乘积：判据可外部化程度 X、反馈信号的信噪比 S、以及反事实可采样性 C。即：

D(E) ≈ X(E) × S(E) × C(E)

X：专家判据能被写成规则、评分表或偏好对的比例（0~1）
S：单次判定中有效信号与噪声之比（可用标注者间一致性近似）
C：能构造出“改动一个变量、其余不变”的对照样本的能力

这个乘性结构解释了大量工程观察：只要任一因子接近零，整体可蒸馏性就崩塌。操作型经验通常三项都较高，所以蒸馏顺畅；认知型经验往往 X 很低（判据说不清）、C 很低（反事实样本难造），于是即便 S 尚可，乘积依然很小。本文评述：把可蒸馏性写成乘性而非加性，是有意的——它强调短板效应，也直接指向改进策略：不必三项齐升，只需把最接近零的那一项抬起来，收益就最大。

2.2 为什么这条主线优于“显性/隐性知识”二分

波兰尼（Polanyi）的“隐性知识”概念常被用来解释认知型经验不可蒸馏。但笔者认为，这一二分在工程语境下过于粗糙：它把“当前没被外部化”误当成“原则上不可外部化”。事实上，大量被归为隐性的经验，在引入合适的对照实验和评分协议后，是可以被部分外部化的。可验证性梯度的价值在于，它把哲学式的二分转化为可测量的工程变量，从而给出改进方向，而不是给出放弃的理由。

需要说明边界条件：本文并不主张所有认知型经验都能被完全蒸馏。可验证性梯度描述的是“可被蒸馏的比例”，而非“是否可被蒸馏”的二元判断。对于判据高度依赖个体生理与情感反应的部分（如某些极度个人化的审美偏好），X 的提升存在现实上限，这一点在第七节会专门讨论。

三、操作型经验的蒸馏机制与工程细节

3.1 三条主流技术路线

当前操作型经验的蒸馏主要沿三条路线展开。第一条是响应蒸馏，即用教师输出的软标签（logits 经温度缩放后的分布）训练学生，Hinton 等人的原始工作即属此类。第二条是特征蒸馏，对齐中间层表示，FitNets、注意力迁移（AT）等工作把监督信号从输出层前移到隐藏层。第三条是轨迹蒸馏，直接对教师的推理步骤或动作序列做监督，这在代码生成、工具调用等任务中成为主流。

三条路线的共同前提是：存在一个可自动判定的正确性信号，或至少存在一个高一致性的打分器。这正是操作型经验的结构性优势。以代码任务为例，单元测试天然提供了二值化的验证信号，拒绝采样可以低成本地筛出正确轨迹，教师的高质量经验因此能被稳定提取。笔者认为，很多团队在复现推理蒸馏时失败，并非算法选错，而是低估了“验证器质量”这一前置条件——验证器不靠谱，再精巧的蒸馏损失函数也只是在放大噪声。

3.2 一个可复用的工程流水线

把上述路线落到工程上，可以抽象为五步流水线，这套流程在多个开源推理蒸馏项目中已被反复验证：

这套流水线的可复用性来自一个事实：操作型经验的验证器可以独立于模型迭代。单元测试、编译检查、格式校验都是“冻结”的判据，不会随模型变化而漂移。而认知型经验恰恰缺少这种冻结判据，这是第四、五、六节要解决的核心难题。

延伸阅读可参考 Hugging Face 的 TRL 文档中关于拒绝采样与偏好优化的实现说明（huggingface.co/docs/trl），以及 DeepSeek-R1 技术报告中对冷启动与强化学习阶段的描述（arXiv:2501.12948）。

四、认知型经验为何难蒸：三类结构性障碍

4.1 判据不可观测：专家自己也说不清

设计师在评价一张海报时，往往能迅速给出“不对劲”的判断，但追问“哪里不对”时，回答会退化为模糊的形容词。这不是专家不配合，而是判断过程本身是模式匹配式的、非符号化的。认知心理学中的“专家直觉”研究（如 Klein 的自然决策研究）早已指出，专家在熟悉领域内的判断往往先于解释。本文评述：这一现象对蒸馏的直接后果是，无法直接采集“判据”，只能采集“判断”。因此认知型经验的蒸馏必须绕道——从判断结果反推判据，而不是指望专家直接给出判据。

4.2 反馈稀疏且延迟：方向判断的回报周期以年计

科学家的方向判断，其正确性往往要在数年后的论文产出、引用积累甚至领域兴衰中才显现。这种长周期、稀疏、带噪的反馈，使得强化学习式的信用分配极其困难。相比之下，操作型任务的反馈是即时且稠密的。笔者认为，这是认知型经验蒸馏中最被低估的障碍：不是没有信号，而是信号太晚、太稀。应对策略不是等待真实反馈，而是构造代理信号（proxy signal），这一点将在第六节展开。

4.3 反事实不可采样：无法做“只改一个变量”的对照

要训练一个判断模型，最有效的方式是给它成对的对照样本：同一版式改一个字重、同一课题换一个切入点。但现实中的设计稿和研究方案都是整体性的，改动一个变量往往牵动全局，难以构造严格对照。这直接压低了可验证性梯度中的 C 因子。笔者认为，破解之道在于受控扰动生成：用生成模型对原始样本做单变量扰动，再由专家做偏好标注，从而人工制造反事实对。这条路径在第五节的审美蒸馏中会给出具体参数。

五、审美的蒸馏：从偏好到判据的可操作路径

5.1 把审美问题转化为偏好学习问题

审美的核心困难是判据不可观测，但有一个可观测的替代物：成对偏好。给定两张仅在某一个设计维度上有差异的图，专家通常能稳定地选出更好的一张，即使说不出理由。这正好匹配 Bradley-Terry 模型与 RLHF 中的偏好优化框架。本文评述：偏好学习不是审美的“降级替代”，而是与可验证性梯度高度契合的工程入口——它绕开了判据外部化，直接利用判断的稳定性。

具体做法分四步。第一步，确定设计维度清单，例如版式密度、字重层级、色彩对比、留白比例、视觉动线。第二步，用图像编辑或生成模型对每个维度做单变量扰动，生成成对样本。第三步，由多名设计师做盲评，每人每对只选一个，并记录反应时（反应时过长的样本标记为低置信）。第四步，用偏好数据训练奖励模型，再以奖励模型为验证器做蒸馏。

5.2 关键参数与数据预处理

在公开的审美与偏好数据集上，预处理细节直接决定蒸馏上限。以 AVA（Aesthetic Visual Analysis）数据集为例，其约 25 万张图像带有 1–10 分的审美评分，预处理时通常需要：剔除评分人数少于 3 的样本以降低噪声；按评分均值与标准差做分层采样，避免高分样本主导；对图像统一短边缩放到 512 像素并保持长宽比，防止构图信息被破坏。本文评述：AVA 的评分分布高度偏斜，直接回归会导致模型只会输出“中等偏好”，因此分层采样比简单随机划分更关键。需要说明，上述预处理参数是工程惯例的整合描述，具体数值应结合下游任务重新标定。

另一个常被引用的偏好数据集是 LAION-Aesthetics，其评分由轻量模型预测而非人工标注，优点是规模大，缺点是存在系统性偏差。笔者认为，用模型预测分做蒸馏验证器时要格外谨慎：它会把教师模型的偏差一并蒸馏进学生，形成偏差放大。稳妥做法是人工标注一个小规模高置信集作为校准锚点，定期检测奖励模型的漂移。

5.3 从偏好到判据：可解释奖励模型的作用

纯偏好模型只能排序，不能解释，这限制了它在真实设计流程中的可用性。近两年的一个趋势是训练可解释奖励模型：在输出偏好分数的同时，输出对各设计维度的归因。工程上可通过多任务学习实现——主任务做偏好排序，辅助任务预测各维度的离散评分。这样得到的奖励模型不仅能当验证器，还能反向给设计师提供“这张图在留白维度失分”的具体反馈，形成人机协同的闭环。

关于偏好优化的实现细节，可参考 InstructGPT 论文中对奖励建模与 PPO 训练的描述（arXiv:2203.02155），以及 DPO 论文给出的无需强化学习的简化路径（arXiv:2305.18290）。视频类教程可参考 Hugging Face 的 RLHF 课程（huggingface.co/learn）。

六、方向判断的蒸馏：过程奖励与反事实校准

6.1 用过程奖励替代结果奖励

方向判断的反馈延迟问题，可以通过把“结果奖励”替换为“过程奖励”来缓解。过程奖励模型（Process Reward Model, PRM）不评判最终结论，而是对推理或决策过程中的每一步打分。在数学推理中，PRM 已被证明比结果奖励更利于蒸馏，因为它提供了更稠密的学习信号。迁移到科研方向判断上，可以把“选题”拆成若干可评判的中间步骤：问题是否真实存在、现有方法是否确实失效、拟用工具是否匹配、失败风险是否可控。每一步由资深研究者独立打分，形成过程级监督。

本文评述：PRM 迁移到科研场景的最大风险是步骤划分本身带有引导性——你按什么维度拆步骤，模型就学什么维度的判断。因此步骤体系的设计必须经过多轮专家共识，并在不同子领域做稳健性检验，否则蒸馏出的只是某一位专家的思维模板，而非可泛化的判断能力。

6.2 反事实校准：制造“差一点就对”的样本

方向判断中最有价值的信息，往往藏在“看起来合理但实际错误”的样本里。工程上可以构造三类反事实样本：一是邻近错误，把正确方向做细微偏移，例如把“用扩散模型做分子生成”改成“用扩散模型做分子性质预测”；二是过时正确，即曾经正确但已被新证据推翻的方向；三是局部最优陷阱，即短期指标好看但长期天花板低的方向。让专家对这三类样本与真实正确方向做偏好标注，可以显著提升模型对“伪机会”的识别力。

需要强调，反事实样本的构造必须遵循单变量原则，否则偏好标注会退化为整体印象打分，重新落入判据不可观测的困境。这一点与第五节的审美扰动是同一套方法论，只是作用对象从视觉维度换成了研究维度。

6.3 一个可落地的三阶段方案

三阶段方案的关键不是模型规模，而是判据显式化阶段的质量。笔者认为，很多团队急于进入训练阶段，跳过评分表设计，结果得到的是一个“看起来会判断、实际只是在模仿措辞”的模型。评分表阶段投入的时间，通常与最终蒸馏效果呈正相关。

七、评估协议、失效边界与对比

7.1 评估不能只看准确率

认知型经验的蒸馏评估，最忌讳用单一准确率下结论。更合理的协议包含三层：第一层是排序一致性，即模型偏好与专家偏好的 Kendall τ 或 Spearman ρ；第二层是校准度，即模型置信度与实际正确率的匹配程度，可用期望校准误差（ECE）衡量；第三层是反事实鲁棒性，即在单变量扰动样本上的判断稳定性。本文评述：第三层最容易被忽略，却最能暴露模型是否真的学到了判据，还是只学到了表面相关性。

7.2 失效边界

必须诚实指出三类失效边界。其一，判据高度个人化的领域，如某些先锋艺术审美，专家之间一致性本就很低，此时蒸馏的目标不应是统一判断，而应是保留多样性。其二，反馈周期超过模型生命周期的领域，代理信号与真实信号可能脱节，蒸馏结果需要长期跟踪验证。其三，分布快速漂移的领域，如设计潮流与科研热点，奖励模型会迅速过时，需要建立定期重训机制。这三条边界不是否定蒸馏，而是划定其适用区间。

7.3 操作型与认知型的对比小结

八、结论与展望

回到文章标题的问题：设计师的审美、科学家的方向判断，真的只能放弃吗？基于可验证性梯度的分析，答案是否定的，但也不是简单的“可以蒸馏”。更准确的表述是：认知型经验的蒸馏不是一次性的模型压缩，而是一套把判据逐步外部化的工程改造。它要求先做判据显式化，再做偏好或过程奖励建模，最后用反事实样本校准。跳过任何一步，蒸馏都会退化为对专家措辞的模仿。

展望未来，笔者认为有三个方向值得投入。第一，可解释奖励模型会成为认知型蒸馏的基础设施，因为它同时解决了验证与反馈两个问题。第二，多专家偏好聚合需要更成熟的方法，以保留判断多样性而非强行求均值。第三，奖励模型的持续校准机制应被纳入工程规范，就像操作型任务中的单元测试一样常态化。这三件事都不炫技，但决定了认知型经验能否真正进入生产流程。

最后需要重申，本文提出的可验证性梯度是一个分析框架而非定论，其三个因子的量化仍需更多实证研究支撑。但即便作为框架，它已经足以纠正一个流行误解：认知型经验难蒸，不是因为它们神秘，而是因为我们还没把判据工程化。把“不可言说”当成终点，才是真正的放弃。

主要参考文献