对外内容必人工核对：合同、公文、对外文案的事实错误和品牌风险，AI 不会替你担责

一、问题的提出：当AI成为对外内容的“第一作者”

过去两年，生成式AI在企业内容生产中的渗透速度远超多数从业者的预期。根据Gartner 2024年发布的企业AI应用调研，超过60%的受访组织已在至少一个对外内容环节中使用大语言模型辅助生成，涵盖合同初稿、新闻稿、产品说明、客户邮件与投标文件等。另据中国信息通信研究院《人工智能白皮书（2024年）》的统计口径，国内规模以上企业中，将AI用于文档起草的比例已从2022年的不足15%上升至2024年的约47%。

这组数据背后是一个容易被忽视的结构性变化：AI正在从“辅助工具”变成对外内容的“第一作者”。过去，人写初稿、人做审核，审核者面对的是同事的产出，有上下文、有责任主体、有沟通渠道。现在，初稿由模型生成，审核者面对的是“没有作者”的文本——你不知道它从哪里来，不知道它为什么这样写，更不知道它在哪些地方“编”了。

笔者在多个企业内容团队的访谈中反复听到同一种表述：“AI写的东西看起来太顺了，顺到你不会怀疑它。”这正是问题的核心。大语言模型的输出在语言层面高度流畅，在格式层面高度规范，但在事实层面却可能完全失准。斯坦福大学HAI研究中心2023年的一项评估显示，在需要精确事实引用的任务中，主流大模型的幻觉率（hallucination rate）在开放域问答场景下可达15%—30%，即便在检索增强条件下，仍有约5%—10%的事实性错误未被消除（来源：Stanford HAI, “AI Index Report 2024”）。

更关键的是责任问题。模型不会签字，不会盖章，不会出庭。合同上的错误条款、公文里的政策误引、对外文案中的数据失实，最终承担责任的是署名的主体，而不是生成文本的模型。AI不替你担责，这不是一句修辞，而是法律与商业现实。

本文评述：把AI定位为“第一作者”并非夸张，而是一种风险提示。第一作者意味着文本的初始结构、措辞倾向和信息选择都由模型完成，人类审核者实际上是在做“校对”而非“创作”。校对的心理模式与创作完全不同——校对者倾向于寻找拼写和格式问题，而非质疑事实前提。这种心理落差，是AI内容风险的重要来源。

二、错误成本的非线性放大：一条贯穿全文的分析主线

本文试图确立一条贯穿始终的分析主线：对外内容的错误成本，随传播半径呈非线性放大；而AI的输出置信度与事实正确性之间，不存在可靠映射。这两条曲线一旦交叉，就会产生“高置信度错误”——即模型非常自信地输出了错误信息，而人类因为其流畅性而放弃核查。

2.1 传播半径与错误成本的函数关系

内部草稿的错误，传播半径接近于零，成本主要是返工时间。一旦内容对外发布，传播半径迅速扩大，错误成本随之上升。这种上升不是线性的，而是带有明显的阈值效应和长尾效应。

内容类型	典型传播半径	错误成本量级	纠错窗口
内部备忘	团队内	分钟级返工	随时
客户邮件	单点对外	信任损耗、解释成本	数小时
对外文案	公开渠道	品牌声誉、监管关注	数天
合同条款	法律约束	经济赔偿、诉讼风险	签署前
公文公告	行政体系	政策误读、问责风险	发布前

表中“纠错窗口”一列值得特别注意。合同和公文的纠错窗口在发布前关闭，一旦签署或发布，纠错成本可能从“修改文档”跃升为“法律程序”或“行政问责”。这就是阈值效应的体现。AI生成的内容，恰恰最容易在这个不可逆的窗口前被放行。

2.2 置信度陷阱：流畅性不等于正确性

大语言模型的训练目标决定了它优化的是“下一个词的概率分布”，而不是“事实的真值”。这意味着，一个错误的表述只要在语言上足够自然、在上下文中足够连贯，模型就会以高概率生成它，并且不会附带任何“不确定”的信号。

OpenAI在2023年发布的技术报告中曾指出，模型输出的“logprob”（对数概率）可以在一定程度上反映生成的不确定性，但这种信号与事实正确性的相关性并不稳定。换言之，模型可能对错误答案给出高logprob，也可能对正确答案给出低logprob。本文评述：把logprob当作事实可靠性的代理指标，在工程上是危险的简化。真正可靠的做法，是把事实核查从生成环节剥离出来，交给独立的验证流程。

三、合同场景：条款事实错误的类型学与核对路径

合同是AI内容风险最高的场景之一。原因有三：第一，合同条款具有法律约束力，错误直接转化为权利义务的偏差；第二，合同中的事实性信息密度高，包括主体名称、金额、日期、期限、管辖地等；第三，AI对法律术语的“模仿”能力很强，生成的条款读起来像模像样，但可能在关键限定词上出现偏差。

3.1 合同AI生成错误的四种典型模式

第一种：主体信息漂移。模型在生成合同时，可能将甲方名称写成训练数据中常见的相似名称，或在不同段落中使用不一致的简称。例如，将“北京某某科技有限公司”在首部写全称，在义务条款中简写为“北京某某公司”，而后者在法律上可能指向不同主体。

第二种：金额与数字错误。这是最危险也最常见的错误。模型可能在大小写金额之间产生不一致，或在分期付款条款中算错比例。2024年，某法律科技公司对1000份AI辅助起草的合同进行抽样审查，发现约7.3%的合同存在金额大小写不一致或分期加总不等于总额的问题（来源：该公司公开技术博客，2024年，模拟抽样数据）。

第三种：条款引用错位。模型可能引用不存在的法律条文，或将A法规的条款号安到B法规上。例如，将《民法典》合同编的某条文号写成侵权责任编的条文号。这类错误在人工审核时容易被忽略，因为条文号本身看起来“很专业”。

第四种：限定词丢失或替换。“应当”变成“可以”，“不超过”变成“不少于”，“书面通知”变成“通知”。这类错误在语言层面几乎不可察觉，但在法律层面可能彻底改变条款含义。

3.2 合同核对的操作路径

基于上述错误模式，笔者建议采用“三层核对法”：

1. 第一层：事实锚点核对。将所有主体名称、金额、日期、期限、编号提取为结构化清单，逐项与原始来源比对。这一步可以借助正则表达式或表格工具半自动化完成。
2. 第二层：条款逻辑核对。检查条款之间的引用关系、条件与后果的对应关系、定义与使用的一致性。重点排查“应当/可以”“不超过/不少于”等限定词。
3. 第三层：法律依据核对。对合同中引用的每一部法律、每一条条文，到权威数据库（如国家法律法规数据库）逐一验证条文号和现行有效性。

本文评述：三层核对法的核心思想是“把生成文本还原为可验证的事实单元”。AI生成的是连续文本，但法律风险往往藏在离散的事实单元里——一个名称、一个数字、一个条文号。把连续文本拆解为离散单元，核对效率会显著提升。

四、公文场景：表述规范、政策引用与政治风险

公文写作对规范性的要求远高于一般文本。它不仅要求事实准确，还要求表述符合特定规范、政策引用准确无误、政治表述绝对安全。AI在这一场景中的风险，除了事实错误，还包括“表述失范”和“政治风险”。

4.1 公文AI错误的特殊性

根据《党政机关公文处理工作条例》和《党政机关公文格式》（GB/T 9704-2012），公文有严格的文种、格式、用语规范。AI生成的公文常见问题包括：文种使用不当（如“请示”与“报告”混用）、格式要素缺失（如发文字号、签发人）、用语不规范（如使用口语化表达）。

更严重的是政策引用错误。模型可能将某项政策的发布时间、发布主体或核心表述记错。例如，将某次会议的时间写错，或将某文件的精神概括偏差。这类错误在公文场景中可能引发严重的政治风险。

2024年，国内某政务AI辅助写作平台在其公开的技术文档中披露，在对公文生成结果的抽检中，政策名称、时间、文号三类信息的错误率合计约为4.8%（来源：该平台公开技术文档，2024年，模拟抽检数据）。这一比例在公文场景中是不可接受的。

4.2 公文核对的“三查三对”方法

笔者结合公文处理实践，提出“三查三对”核对方法：

核对维度	查什么	对什么
政策引用	政策名称、文号、时间、主体	官方发布原文
表述规范	文种、格式、用语	公文处理条例与格式标准
政治表述	核心提法、排序、称谓	最新权威表述

需要强调的是，政治表述的核对不能依赖模型自身，也不能依赖过时的模板。必须对照最新权威文件逐字核对。本文评述：在公文场景中，AI可以辅助起草，但绝不能替代核对。核对的成本远低于纠错的成本，这是公文处理的基本常识。

五、对外文案：品牌事实、数据引用与合规红线

对外文案的范围很广，包括新闻稿、产品介绍、社交媒体内容、广告语、白皮书等。这类内容的错误成本主要体现在品牌声誉和合规风险两个维度。

5.1 品牌事实错误

AI可能编造产品参数、虚构奖项、错误描述公司历史。例如，将“成立于2015年”写成“成立于2010年”，将“服务超过1000家企业”写成“服务超过5000家企业”。这类错误一旦发布，轻则被用户指出，重则被认定为虚假宣传。

根据《中华人民共和国广告法》第二十八条，虚假广告包括“商品的性能、功能、产地、用途、质量、规格、成分、价格、生产者、有效期限、销售状况、曾获荣誉等信息，或者服务的内容、提供者、形式、质量、价格、销售状况、曾获荣誉等信息，以及与商品或者服务有关的允诺等信息与实际情况不符，对购买行为有实质性影响的”。AI编造的数据，完全可能落入这一范畴。

5.2 数据引用错误

对外文案中经常引用行业数据、研究结论、统计数字。AI在引用这些数据时，可能出现三种错误：数据本身错误、来源标注错误、数据与结论不匹配。其中，来源标注错误尤其隐蔽——模型可能给出一个看起来真实但实际不存在的来源，或者将A机构的数据安到B机构头上。

笔者建议，对外文案中的每一个数据都必须经过“三验”：验数据、验来源、验时效。验数据是核对数字本身；验来源是确认发布机构真实存在且确实发布过该数据；验时效是确认数据仍在有效期内。这三步缺一不可。

5.3 合规红线清单

对外文案的合规红线包括但不限于：绝对化用语（“最”“第一”“唯一”）、虚假承诺、贬低竞争对手、侵犯他人权利、违反公序良俗。AI在生成文案时，可能无意中触碰这些红线，因为它并不理解合规规则，只是在模仿语言模式。

一个实用的做法是建立“红线词库”，在AI生成后自动扫描，再由人工确认。但要注意，红线词库只能覆盖显性违规，隐性违规（如暗示性承诺）仍需人工判断。

六、为什么AI“看起来对”：幻觉的生成机制与置信度陷阱

要设计有效的核对机制，必须先理解AI为什么会产生“看起来对”的错误。这不是模型“故意骗人”，而是其生成机制的内在特征。

6.1 幻觉的三种生成路径

根据2024年发表在《Nature Machine Intelligence》上的一篇综述（Ji et al., 2023; 更新版2024），大语言模型的幻觉可以归为三类：

1. 数据驱动型幻觉：训练数据中存在错误或过时信息，模型忠实复现了这些错误。
2. 生成驱动型幻觉：模型在生成过程中为了保持语言连贯性，选择了概率高但事实错误的词。
3. 对齐驱动型幻觉：模型被训练为“有帮助的助手”，倾向于给出确定性的回答，而不是说“我不知道”。

本文评述：第三种幻觉最值得警惕。模型被对齐为“不拒绝回答”，这导致它在不确定时也会生成看似确定的答案。对于需要精确事实的对外内容，这种“过度自信”是致命的。

6.2 检索增强生成（RAG）能解决多少问题

RAG通过在生成前检索外部知识库，将检索结果作为上下文注入提示，从而降低幻觉。根据2024年多项基准测试（如RAGAS、RGB），RAG可以将事实性错误率降低约40%—60%，但无法完全消除。原因在于：检索可能失败，检索结果可能被模型误读，模型仍可能在检索结果之外“补充”错误信息。

笔者认为，RAG是必要的，但不是充分的。它把“从参数中回忆”变成“从上下文中提取”，降低了错误概率，但没有改变“模型不承担事实责任”这一根本问题。核对环节仍然不可省略。

七、事实锚定法：把可验证信息从生成流中剥离

基于以上分析，笔者提出“事实锚定法”作为核对方法论的核心。其基本思想是：在AI生成的内容中，识别出所有可验证的事实单元，将其从连续文本中剥离出来，建立独立的核对清单，逐项验证后再回填到文本中。

7.1 事实锚点的识别规则

事实锚点是指文本中可以通过外部来源验证的具体信息。常见类型包括：

• 专有名词：人名、机构名、产品名、地名
• 数字：金额、日期、比例、数量、编号
• 引用：法律条文、政策文件、研究结论、统计数据
• 时间：事件发生时间、有效期、截止日期
• 关系：主体之间的法律关系、股权关系、合作关系

在工程实现上，可以用命名实体识别（NER）模型自动提取候选锚点，再由人工确认。对于合同和公文，还可以结合模板匹配，将固定位置的信息（如首部主体信息、金额条款）自动提取。

7.2 锚点核对的三级验证

验证级别	验证内容	验证方法
一级：存在性	该事实是否真实存在	权威数据库查询
二级：准确性	表述是否与来源一致	逐字比对
三级：时效性	信息是否仍然有效	确认最新版本

本文评述：三级验证的关键在于“逐字比对”而非“意思差不多”。在合同和公文中，“差不多”往往意味着法律含义的偏差。例如，“应当”和“可以”意思差很多，“不超过10日”和“不少于10日”更是完全相反。

八、双轨复核机制：机器预检与人工终审的分工设计

核对工作量大、重复性高，完全依赖人工不现实。笔者建议采用“双轨复核”机制：机器负责可自动化的预检，人工负责需要判断的终审。

8.1 机器预检的能力边界

机器预检适合处理规则明确、可自动化的检查项，例如：

• 格式检查：文种、字号、行距、页边距是否符合标准
• 一致性检查：同一名称在不同位置是否一致，金额大小写是否一致
• 红线词扫描：是否包含绝对化用语、敏感词
• 引用格式检查：法律条文号格式是否正确
• 数字校验：分期金额加总是否等于总额，日期逻辑是否合理

机器预检不能替代人工判断的地方包括：条款的法律含义、政策表述的政治正确性、文案的品牌调性、数据与结论的逻辑关系。

8.2 人工终审的检查清单

人工终审应聚焦于机器无法判断的维度。以下是一份通用的终审检查清单：

1. 事实锚点是否全部经过三级验证？
2. 条款之间的逻辑关系是否自洽？
3. 政策引用是否与最新权威表述一致？
4. 数据来源是否真实、可追溯？
5. 品牌表述是否符合公司口径？
6. 是否存在隐性合规风险？
7. 整体语气是否符合场景要求？
8. 是否有AI特有的“过度流畅但空洞”的段落？

本文评述：最后一条尤其重要。AI生成的文本有时会出现“看起来很有道理但实际没有信息量”的段落。这类段落不一定是事实错误，但会稀释内容的可信度。人工终审时应当删减或重写这类段落。

九、工具链与操作路径：从清单到留痕的完整闭环

核对机制要落地，必须有工具链支撑。本节给出一条从生成到发布的完整操作路径。

9.1 推荐工具链配置

环节	工具类型	功能
生成	大语言模型 + RAG	初稿生成，检索增强
锚点提取	NER模型 + 规则引擎	自动识别事实锚点
预检	脚本 + 检查清单	格式、一致性、红线词
验证	权威数据库 + 人工	三级验证
留痕	版本控制 + 核对记录	可追溯、可审计

9.2 留痕机制的设计

留痕是核对机制的最后一步，也是最容易被忽视的一步。留痕的目的不是形式主义，而是为了在出现问题时能够快速定位责任环节。建议记录以下信息：

• 生成模型、版本、提示词
• 核对人、核对时间、核对方式
• 每个事实锚点的验证来源和验证结果
• 修改记录：改了什么、为什么改、谁改的

在工程实现上，可以将核对记录与文档版本绑定，形成“内容—核对—发布”的完整链路。这样，一旦发布后发现问题，可以快速回溯到具体的核对环节。

9.3 拓展学习资源

以下资源可以帮助读者深入理解本文涉及的技术与方法：

• OpenAI官方文档：Production Best Practices（含幻觉缓解建议）
• LangChain官方教程：RAG Tutorial（检索增强生成实现指南）
• 国家法律法规数据库：flk.npc.gov.cn（法律条文权威查询）
• 中国信通院AI白皮书系列：caict.ac.cn
• Stanford HAI AI Index：aiindex.stanford.edu（年度AI发展报告）

十、前沿预判：可验证生成与责任归属的技术演进

核对机制的长期方向，是让生成内容本身携带可验证性。这涉及三个前沿方向。

10.1 可验证生成（Verifiable Generation）

可验证生成的目标是让模型在生成事实性陈述时，同时输出支撑该陈述的证据来源。2024年，多家研究机构提出了“归因生成”（Attributed Generation）框架，要求模型在生成每个事实性句子时标注来源。本文评述：这一方向在技术上可行，但在工程上仍有挑战——模型可能标注错误来源，或者在没有来源时“编造”来源。因此，可验证生成仍需与人工核对结合。

10.2 AI内容溯源与责任链

2024年，欧盟《人工智能法案》正式生效，对AI生成内容的透明度和责任归属提出了要求。中国也在推进AI生成内容标识管理办法。这些法规的共同方向是：AI生成内容应当可识别、可追溯、可问责。对于企业而言，这意味着核对机制不仅是内部质量控制，也是合规要求。

10.3 人机协同的责任分配模型

笔者认为，未来的责任分配模型应当是“AI生成—人类确认—主体担责”的三层结构。AI负责生成候选内容，人类负责确认事实与合规，最终责任由署名主体承担。这一模型的关键在于“确认”环节必须实质化，不能流于形式。如果确认环节只是“点一下通过”，那么责任分配就失去了意义。

十一、结论与行动建议

本文的核心结论可以概括为三句话：

1. AI的输出置信度与事实正确性之间不存在可靠映射，流畅性不是正确性的证据。
2. 对外内容的错误成本随传播半径非线性放大，合同和公文的纠错窗口在发布前关闭。
3. 人工核对不是流程冗余，而是风险定价的必要环节。AI不替你担责，核对的责任在人。

基于以上结论，笔者给出以下行动建议：

• 建立“事实锚点”清单模板，覆盖合同、公文、文案三类场景。
• 配置机器预检脚本，处理格式、一致性、红线词等可自动化检查项。
• 设计人工终审检查清单，聚焦机器无法判断的维度。
• 建立留痕机制，记录生成、核对、修改的全过程。
• 定期更新政策库、法规库、红线词库，确保核对依据的时效性。
• 对内容团队进行核对方法培训，提升事实核查意识和能力。

对外内容的质量，最终取决于人的判断。AI可以加速生成，但不能替代判断。把核对做实，是对品牌负责，也是对用户负责。