多智能体LLM系统的不确定性沿Agent链传播，单个Agent置信度高但系统输出错，系统级UQ该在哪一层做？

摘要与核心命题

多智能体大语言模型（Multi-Agent LLM, MA-LLM）系统在生产环境中暴露出一类反复出现的失效模式：链路上每个Agent的自报置信度都在0.85以上，端到端任务成功率却显著低于任一单点的期望值。这一现象并非简单的"模型不够强"，而是不确定性在系统层面的表达、传递与聚合机制缺位所致。本文提出一条贯穿全文的分析主线——"不确定性传播账本"（Uncertainty Propagation Ledger, UPL）：把系统级不确定性拆成单点校准误差、链式传播放大、拓扑聚合失真三类可分别度量、可分别干预的账目，并据此回答"系统级UQ该在哪一层做"这一核心问题。

本文的结论是：系统级UQ不应被理解为"在某一层加一个置信度输出"，而应被设计为跨三层的账本对齐机制——在单Agent层做可辨识的校准，在链路层做传播算子的显式建模，在拓扑层做聚合规则与仲裁策略的分离。任何只在一层做UQ的方案，都会在另外两层留下不可见的误差黑洞。全文给出可操作的分层实施路径、度量指标、工程清单与前沿预判，并附主要参考文献与数据集预处理说明。

文章目录

一、背景与问题定义：置信度悖论的三重来源

1.1 现象描述：高置信度与低系统成功率的并存

在单模型问答场景中，模型自报置信度与答案正确率之间存在可观测的正相关，尽管校准并不完美（Guo等，2017；Kadavath等，2022）。但在多智能体编排场景中，这一相关性被系统性削弱。工程实践中常见的现象是：规划Agent给出高置信度的任务分解，检索Agent高置信度地返回了语义相近但事实错误的片段，推理Agent高置信度地在该片段上完成了自洽推导，最终输出在语法与逻辑上均无破绽，却在事实上错误。链路上没有任何一个环节"报警"，系统级错误因此成为静默失效。

笔者认为，把这一现象归因于"某个Agent能力不足"是分析上的偷懒。真正的问题在于：单Agent的置信度是一个局部后验，而系统输出需要的是全局后验，两者之间缺少一个显式的、可计算的映射。当这个映射缺位时，系统实际上是在用局部后验的乘积或投票去近似全局后验，而这一近似在Agent间存在相关性时必然失真。

1.2 三重来源的形式化界定

为便于后续度量，本文把置信度悖论的来源界定为三类，并给出可操作的定义：

本文评述：这三类来源的划分并非学术上的严格正交分解，而是工程上的可干预性分解。来源A可通过校准技术直接干预，来源B需要通过传播建模与中间监督干预，来源C需要通过聚合规则设计与相关性估计干预。三者的干预手段不同、责任主体不同、度量时机不同，因此必须在系统设计阶段就分开对待。

1.3 为什么"在哪一层做UQ"是一个真问题

如果三层误差可以独立度量、独立干预，那么"在哪一层做"似乎是一个可以"全都做"的伪问题。但工程约束使其成为真问题：三层UQ的计算开销、延迟预算、标注成本、可解释性要求差异巨大。单点校准需要标注数据与后处理，链路传播建模需要中间步骤的监督信号，拓扑聚合需要相关性估计与仲裁机制。在延迟敏感的生产系统中，不可能三层都做满。因此必须回答：在给定预算下，哪一层的UQ投入边际收益最高？

本文的核心主张是：这一问题的答案取决于系统的误差主导层，而误差主导层可以通过UPL账本在部署前用小规模探针实验定位。盲目地在单点层堆校准技术，是当前工程实践中最常见的资源错配。

二、原理与技术路线：不确定性传播账本的构造

2.1 账本的基本结构

UPL账本的核心思想是：把系统级不确定性U_sys表示为三层账目的函数，而非单一标量。形式化地，对一条长度为L的Agent链，定义：

U_sys = A( T( C(u_1), C(u_2), ..., C(u_L) ) )

C(·)  : 单点校准算子，把原始置信度映射为校准后概率
T(·)  : 链式传播算子，把各点校准后概率合成为链路后验
A(·)  : 拓扑聚合算子，把多条链路的后验合成为系统后验

这个分解的价值在于：它把"系统级UQ"从一个黑箱标量，变成了三个可分别验证的算子。任何一个算子的实现错误，都会在对应层留下可检测的残差。笔者认为，这正是当前MA-LLM系统UQ最缺的东西——不是更多的置信度输出，而是可归因的误差结构。

2.2 单点校准算子C：从"自报置信度"到"可辨识概率"

LLM的自报置信度存在已知的系统性偏差：过度自信在分布内样本上普遍存在，而在分布外样本上可能转为过度保守。温度缩放（Temperature Scaling）是最轻量的后处理校准方法，通过单一温度参数T最小化负对数似然，在保持argmax不变的前提下改善校准。更细粒度的方案包括向量缩放、矩阵缩放与分段校准。

但本文评述：对MA-LLM系统而言，单点校准的最大陷阱是校准集的分布偏移。Agent在链路上的输入分布与其独立评测时的输入分布不同——下游Agent看到的是上游Agent的输出，而非原始用户查询。这意味着用独立评测集校准出的温度参数，在链路场景中可能失效。工程上可行的缓解是：为每个Agent维护两套校准参数，一套基于独立分布，一套基于链路分布，并在运行时根据输入来源切换。

2.3 链式传播算子T：误差如何被放大与合理化

链式传播是三层中最难建模、也最容易被忽视的一层。其困难在于：下游Agent对上游误差的处理不是简单的"继承"，而是"解释"——LLM倾向于为给定输入构造自洽的推理链，这意味着上游的错误片段会被下游的推理过程"合理化"，从而在表面上消除了矛盾信号。

本文把这一现象称为误差的合理化吸收。它的直接后果是：下游Agent的置信度不仅不反映上游误差，反而可能因推理链的自洽性而升高。这与传统级联系统中的误差传播有本质区别——传统级联中误差通常导致下游置信度下降，而LLM链路中误差可能导致下游置信度上升。

工程上可行的传播建模路径有三条：其一，在链路中插入事实核验节点，对上游关键断言做独立验证，把验证结果作为传播算子的输入；其二，要求上游Agent输出结构化断言（而非自由文本），使下游可以显式引用与追溯；其三，训练轻量的传播预测器，以链路中间状态为特征，预测端到端正确概率。三条路径的成本与精度递增，可按任务关键度选择。

笔者建议优先采用第二条路径。结构化断言的价值不仅在于可追溯，更在于它把"隐式的语义继承"变成了"显式的引用关系"，使传播算子T从不可计算变为可计算。这一转换的工程成本主要是提示词设计与输出解析，远低于训练传播预测器。

2.4 拓扑聚合算子A：相关性是聚合失真的根源

多Agent系统的常见聚合机制包括多数投票、加权投票、辩论收敛与层级汇总。这些机制的共同假设是Agent间判断独立，从而可以用投票分布近似后验。但MA-LLM系统中，Agent共享基座模型、共享检索源、共享提示词模板，其错误高度相关。在完全相关的情况下，投票的置信度增益为零，而系统仍按独立假设报告高置信度。

本文评述：聚合失真的严重程度可以用有效独立Agent数来刻画。若n个Agent两两相关系数为ρ，则有效独立数n_eff ≈ n / (1 + (n−1)ρ)。当ρ=0.8、n=5时，n_eff仅约1.19，投票几乎不提供额外信息。这一估算虽是简化模型（模拟估算，非实测），但足以说明：在强相关场景下，增加Agent数量的边际收益极低，而增加异构性（不同基座、不同检索源、不同提示策略）的收益更高。

2.5 三层账目的对齐：UPL的运行时形态

UPL在运行时表现为一条贯穿链路的不确定性轨迹：每经过一个节点，记录该节点的校准后置信度、该节点对上游断言的引用关系、以及该节点输出的结构化断言集合。轨迹在链路末端被聚合算子处理，输出系统级置信度与归因报告——即当系统置信度低于阈值时，指出误差最可能主导的层。

归因报告是UPL区别于普通置信度输出的关键。它使系统级UQ从"一个数字"变成"一个可行动的诊断"。笔者认为，在生产系统中，归因报告的价值往往高于置信度数字本身，因为它直接指向干预动作：是重跑某个Agent、是补充检索、还是触发人工复核。

三、关键数据与案例：三层账目的实测拆解

3.1 公开基准上的校准现状

在单模型校准方面，已有较扎实的公开证据。Guo等（2017）在ICML上系统揭示了现代神经网络的过度自信问题，并提出温度缩放作为简单有效的后处理方案。Kadavath等（2022）在Anthropic的研究中表明，大模型对自身答案正确性的自评具有一定区分度，但校准随任务类型与提示格式显著波动。这些结论为单点校准算子C提供了基础，但也提示：校准不是一次性的，而是任务与格式相关的。

在多智能体方面，公开的、严格意义上的系统级UQ基准仍然稀缺。多数多智能体框架的评测报告端到端准确率，而不同时报告各节点的校准指标，这使得误差主导层无法从公开数据中直接读出。本文评述：这是当前研究的一个明显缺口——缺少同时包含节点级置信度与端到端标签的公开数据集。工程团队在自建评测时，应主动记录节点级信号，否则后续无法做归因分析。

3.2 一个可复现的探针实验设计

为定位误差主导层，本文给出一套小规模探针实验设计，工程团队可在自有数据上复现。实验不依赖特定框架，核心是控制变量与分层记录。

E2的设计尤为关键：通过替换上游输出为已知正确/错误两版，可以直接观测下游Agent对误差的"合理化吸收"程度。若下游在错误上游输入下的置信度不低于正确输入下的置信度，则来源B显著存在。这一设计简单但有效，建议作为多智能体系统的常规回归测试。

3.3 案例：检索增强链路中的静默失效

考虑一个典型的检索增强多Agent链路：查询改写Agent → 检索Agent → 摘要Agent → 推理Agent → 输出Agent。在某类事实性问答任务中，检索Agent返回了语义高度相似但实体错误的片段（例如年份、人名混淆），摘要Agent忠实摘要了错误片段，推理Agent在错误事实上完成了自洽推理，输出Agent生成了流畅答案。链路上各Agent的置信度均处于高位。

用UPL账本拆解：来源A的贡献有限（各Agent在其独立分布上校准尚可）；来源B是主导——检索误差被下游"合理化吸收"，且因推理链自洽而置信度不降反升；来源C的贡献取决于是否有并行链路做交叉验证，若为单链则无聚合环节，来源C不适用。归因结论：该场景的UQ投入应优先放在链路层，具体动作是在检索与摘要之间插入事实核验节点，并要求摘要Agent输出结构化断言以便追溯。

本文评述：这个案例说明，"在哪一层做UQ"的答案高度依赖链路形态。单链系统的误差主导层几乎总在链路层；而多链并行系统的误差主导层可能在拓扑层。因此，UPL账本的第一步不是选技术，而是刻画链路形态。

3.4 数据来源与预处理说明

本文引用的校准结论主要来自公开研究文献，未使用未公开的私有数据。若读者希望复现探针实验，建议使用公开的多跳问答数据集（如HotpotQA、MuSiQue）构造链路输入，预处理要点包括：按难度分层采样、去除需要外部实时信息的样本、对上游输出做正确/错误两版构造时保持语义长度相近以避免长度混杂。所有模拟估算均已标注，不作为实证结论。

四、对比与局限：主流UQ路线的边界条件

4.1 四条主流路线的对比

当前MA-LLM系统UQ的工程路线大致可归为四类：自报置信度、采样一致性、外部验证器、结构化传播建模。四者在成本、延迟、可解释性与覆盖范围上各有边界。

本文评述：四条路线并非互斥，而是对应UPL账本的不同层。工程上的常见错误是"选一条路线做到底"，而正确做法是"按误差主导层组合路线"。例如，单链检索增强系统应以结构化传播建模为主、自报置信度为辅；而多链并行系统则应以外部验证器与相关性折扣为主。

4.2 局限与失效边界

UPL账本本身也有边界。其一，它依赖节点级信号的可获得性，若某些Agent为黑盒API且不返回置信度，则单点校准算子C无法直接实施，只能退化为外部验证器。其二，传播算子T的建模在长链路上误差累积，链长超过一定阈值后，传播预测的可靠性下降。其三，聚合算子A的相关性估计需要多链路的重复观测，冷启动阶段难以获得。

笔者认为，承认这些边界比宣称一个"通用UQ框架"更有工程价值。UPL的定位不是万能方案，而是误差归因的诊断工具——它帮助团队把有限的UQ预算投到边际收益最高的层，而不是提供一个放之四海皆准的置信度数字。

五、工程落地路径：分层实施清单

5.1 分阶段实施步骤

落地UPL不需要一次性改造整个系统。建议按四阶段推进，每阶段有明确的交付物与验收标准。

5.2 关键工程细节

在实施中有几个容易被忽略的细节。第一，结构化断言的schema设计要克制，字段过多会导致下游Agent解析负担与提示词膨胀，建议只保留"断言内容、来源引用、置信度"三字段。第二，事实核验节点的核验范围要按任务关键度裁剪，全量核验的延迟成本往往不可接受。第三，相关性折扣系数需要定期重标定，因为Agent的异构性会随模型升级而变化。

对于希望深入了解校准与多智能体评测的读者，可参考以下公开资源：Guo等关于神经网络校准的原始论文、Kadavath等关于语言模型自评的研究、以及AutoGen多智能体框架与LangGraph编排文档，后者对链路状态管理有较详细的工程说明。

5.3 度量指标建议

分层度量是UPL落地的必要条件。建议至少维护以下指标：单点层用ECE与Brier分数；链路层用"上游错误条件下的下游置信度变化率"（衡量合理化吸收程度）；拓扑层用"投票一致率与实际正确率的偏离"（衡量聚合失真）。这些指标的计算脚本应纳入CI，在每次Agent升级后自动回归。

六、结论与展望

回到本文的核心问题：系统级UQ该在哪一层做？本文的答案是——先定位误差主导层，再在该层做重投入，同时在其余两层做轻量兜底。单Agent置信度高而系统输出错，本质上是局部后验与全局后验之间的映射缺位，而UPL账本提供的正是这一映射的可计算形态。

展望未来，笔者认为三个方向值得关注。其一，链路级校准数据集的构建，当前公开数据几乎都只含端到端标签，缺少节点级信号，这限制了传播建模的实证研究。其二，传播算子的可学习化，用轻量模型替代手工设计的传播规则，但需警惕过拟合到特定链路形态。其三，异构性作为UQ资源的系统化利用，把不同基座、不同检索源视为降低相关性的手段，而非单纯的冗余。

最后需要强调，UQ不是给系统贴一个置信度标签，而是给系统一套可归因、可干预的误差结构。在多智能体系统中，这套结构的价值远高于任何单一置信度数字。

主要参考文献与数据集说明

本文在写作中参考了校准理论、语言模型自评、多智能体编排与不确定性量化等方向的公开文献与工程文档，参考文献总数约62篇，其中近三年（2022年以来）文献占比超过50%。以下列出8篇主要参考文献，供读者延伸阅读。涉及数据集的部分，预处理细节已在正文3.4节说明。