出版科普书里出现AI画的“双头虾”，出版社下架召回，专家说“已作AI标识不能替代审查”，当AI生成内容进入出版物、教材、医疗图示这些对准确性有硬要求的场景，“标识披露”和“实质审核”之间的责任到底该怎么分？

一、事件复盘：一只“双头虾”暴露的流程缺口

据公开报道，某出版社出版的一本科普读物中，一幅虾类插图被读者指出存在明显的生物学错误——画面中的虾呈现出两个头部结构。出版社随后确认该插图由AI生成，并作出下架召回处理。争议焦点迅速从“图错没错”转向“已经标注了AI生成，为什么还要追责”。

这个转向值得警惕。它把一个内容质量问题偷换成了一个程序合规问题。标识的作用是让读者知道“这是AI生成的”，它回答的是来源问题；而读者购买科普书，支付的对价是“内容在事实层面可靠”，这属于准确性问题。二者不在同一维度上，因此标识无法替代审核。

笔者认为，把“已标识”当作免责盾牌，本质上是把告知义务误当成质量义务的履行。告知义务的履行标准是“充分、显著、可理解”；质量义务的履行标准是“经得起领域专家与事实核验”。前者是后者的前置条件，而不是替代品。

从流程角度看，这类事故几乎总能追溯到同一个缺口：插图环节缺少“领域事实核验”这一道关卡。传统出版流程中，插图多由插画师依据文字稿绘制，编辑在审稿时会自然地对图文一致性做一次交叉检查；而当插图来源变为AI生成后，生成速度极快、候选图极多，反而容易让“看起来对”取代“核对过”。这是效率提升带来的审核稀释效应。

延伸阅读：关于生成式模型在细粒度结构上出错的一般性讨论，可参考arXiv 上关于多模态模型幻觉的综述；关于出版环节的AI使用规范讨论，可参考WIPO 关于生成式AI与知识产权的资料页。

二、问题定义：标识、审核与责任的三元结构

2.1 三个概念的精确定义

AI标识（AI disclosure / labeling）：指在内容载体上以显著方式声明该内容由人工智能生成或经人工智能辅助生成，使受众在知情前提下作出判断。其核心功能是信息披露。

实质审核（substantive review）：指由具备相应领域能力的主体，对内容的真实性、准确性、完整性、适用性进行独立核查，并对核查结论承担专业责任。其核心功能是质量担保。

责任分配（liability allocation）：指在内容出现错误并造成损害时，依据合同、行业规范与法律规定，确定由哪一主体承担何种责任。其核心功能是风险归属。

三者构成一个链条：标识提供信息基础，审核提供质量基础，责任分配提供救济基础。链条中任何一环缺失，都会导致治理失效。只做标识不做审核，等于把核验成本转嫁给读者；只做审核不做标识，则可能在著作权、来源追溯上留下隐患。

2.2 为什么“标识”在制度上被高估

标识之所以被频繁援引，是因为它成本低、可自动化、易举证。一条水印、一行脚注、一个元数据字段，就能形成“已履行告知”的表面证据。相比之下，实质审核成本高、难以标准化、举证困难。制度设计若只追求可执行性而忽视有效性，就容易滑向“标识万能论”。

本文评述：这种滑向并非偶然，而是监管经济学中典型的“可观测性偏误”——监管者倾向于选择容易观测的合规动作作为考核指标，被监管者则围绕指标做最优应对。结果是标识覆盖率上升，而内容错误率未必下降。要打破这一循环，必须把审核动作也设计成可观测、可留痕、可抽检的形态。

三、分析主线：可核验性梯度模型

本文提出一条贯穿全文的分析主线：可核验性梯度（Verifiability Gradient）。其基本命题是：内容场景对“可被独立核验”的要求存在梯度差异，审核强度应与该梯度匹配，而标识强度只需满足“来源可知”这一恒定下限。

3.1 梯度的三个维度

可核验性可由三个维度刻画：

• 事实可判定性：该内容是否存在明确的对错标准。例如“虾有几个头”有明确标准；“这幅图是否美观”没有。
• 错误后果严重性：错误一旦发生，造成的损害是否可逆、是否涉及人身安全。医疗图示的错误后果显著高于文学插图。
• 受众核验能力：目标读者是否有能力自行发现错误。专业读者群体具备一定纠错能力，儿童与公众读者则几乎不具备。

三个维度共同决定一个场景的“可核验性要求”。要求越高，实质审核的必要性越强，且越不能由标识替代。

3.2 梯度与责任强度的映射

该表为本文依据上述三维度构建的分析性框架（非监管条文），用于说明梯度与审核强度的映射逻辑，不构成合规结论。

本文评述：可核验性梯度的价值在于，它把“要不要审核”这个容易陷入立场之争的问题，转化为“审核到什么强度”这个可操作、可分级、可审计的问题。一旦强度可分级，责任分配就有了量化锚点。

四、技术机理：生成模型为何会“造出双头虾”

4.1 从统计拟合到结构失真

扩散模型（Diffusion Model）通过在噪声与数据分布之间建立去噪映射来生成图像。其训练目标是最大化训练样本的似然，而非满足解剖学或分类学约束。这意味着模型学到的是“像素共现的统计规律”，而不是“生物结构的因果规则”。

当提示词包含“虾”“特写”“多只”等要素时，模型在注意力机制下可能把多个个体的局部特征错误地拼接在同一主体上，形成多头、多肢、多眼等结构错误。这类错误在文献中常被归入“细粒度结构幻觉”。

# 伪代码：生成候选图并做结构一致性初筛（示意，非生产代码）
candidates = generate(prompt="a realistic shrimp, macro shot", n=8, seed_list=[11,23,37,41])
for img in candidates:
    seg = segment(img)                 # 实例分割，统计主体数量
    if count_heads(seg) != 1:          # 头数约束
        reject(img, reason="structure_violation")
    if count_legs(seg) not in LEG_RANGE:  # 附肢数量区间约束
        reject(img, reason="appendage_mismatch")
    if not taxonomy_check(img, ref="decapoda"):  # 与参考图谱比对
        reject(img, reason="taxonomy_mismatch")

上述伪代码体现的思路是：把“领域约束”编码为可执行的检查项，在生成阶段就做过滤，而不是等到成书后再靠人眼发现。这是把审核左移（shift-left）到生成环节的典型做法。

4.2 提示词工程无法替代事实核验

一种常见误解是：只要提示词写得足够细，就能避免错误。但提示词只能约束“模型被要求画什么”，无法保证“模型画出来的符合领域事实”。模型对否定式约束（如“不要画两个头”）的遵循并不稳定，且不同采样种子下结果差异显著。

笔者认为，提示词工程属于“输入端控制”，其可靠性上限受限于模型能力；而事实核验属于“输出端控制”，其可靠性取决于核验者的领域能力与检查项的完备性。对于准确性硬约束场景，输出端控制不可省略。

五、分级审核矩阵：按场景定强度

基于可核验性梯度，可构建一个二维审核矩阵：横轴为内容类型（文字/图示/数据表），纵轴为可核验性等级（L1–L4）。每个格子给出最低审核动作与留痕要求。

矩阵的工程价值在于：它把“审核”从模糊的态度问题变成可派工、可验收、可追责的任务清单。每个格子对应一个明确的动作与一份明确的留痕物，便于事后抽检与责任认定。

六、工程化路径：六步审核流水线

6.1 六步流程

1. 场景定级：依据可核验性梯度，为每类内容确定L1–L4等级，写入项目立项文档。
2. 来源登记：记录生成工具、模型版本、提示词、采样参数、生成时间，形成来源元数据。
3. 自动初筛：运行结构约束检查、数值区间校验、重复率检测等自动化规则。
4. 领域核验：由具备领域能力的人员按检查清单逐项核对，填写核验记录表。
5. 签核留痕：核验人、复核人签字，记录版本号与时间戳，纳入审计日志。
6. 发布后监测：收集读者反馈与勘误，形成闭环，定期复盘规则有效性。

6.2 检查清单示例（图示类，L3）

[ ] 主体数量与文字描述一致
[ ] 关键解剖/形态结构数量正确（头、肢、翅、眼等）
[ ] 比例关系在合理区间内
[ ] 与权威参考图谱比对无明显冲突
[ ] 图中文字标注与正文术语一致
[ ] 无多余或缺失的结构部件
[ ] 生成来源元数据已登记
[ ] 核验人具备相应领域资质

这套清单看似朴素，但它把“专家经验”转化为“可复用资产”。新入职编辑按清单执行即可覆盖大部分高频错误，专家则聚焦于清单之外的疑难判断。

延伸阅读：关于内容审核流程的工程化实践，可参考NIST AI风险管理框架；关于生成内容水印与溯源的技术资料，可参考C2PA内容来源与真实性联盟。

七、检测与溯源技术栈及其局限

7.1 三类技术手段

水印（watermarking）：在生成过程中嵌入可检测信号。优点是主动、可自动化；局限是易被裁剪、压缩、重绘破坏，且不同厂商水印互不兼容。

来源元数据（provenance metadata）：如C2PA标准，在文件中附带签名化的来源信息。优点是结构化、可验证；局限是依赖工具链支持，转存、截图后易丢失。

检测器（detector）：基于统计特征判别内容是否由AI生成。优点是无需生成端配合；局限是准确率随模型迭代快速衰减，存在假阳性与假阴性，且对“人机混合”内容几乎无效。

7.2 为什么检测不能作为唯一防线

检测器的本质是二分类器，其性能依赖训练分布与目标分布的匹配。当生成模型更新、后处理（如重绘、滤镜、二次压缩）介入后，分布发生偏移，检测性能显著下降。文献中反复报告的“跨模型泛化不足”问题，说明检测更适合作为辅助信号而非裁决依据。

本文评述：把检测当作唯一防线，等于把质量责任外包给一个概率模型，这在工程上不可接受。更稳妥的架构是“元数据为主、水印为辅、检测为参考、人工核验为终裁”的四层结构。终裁权必须留在具备领域能力的人手中。

八、制度与合同：把责任写进流程

8.1 合同条款设计要点

• 来源披露条款：要求供应方声明内容是否含AI生成成分，并提供工具与版本信息。
• 质量担保条款：明确供应方对内容准确性的担保范围与免责边界。
• 审核配合条款：约定供应方配合出版方核验的义务，包括提供原始素材与生成记录。
• 责任分担条款：按可核验性等级约定错误发生时的责任比例与救济方式。
• 召回与勘误条款：约定下架召回的触发条件、成本承担与时限。

8.2 内部制度要点

制度层面应建立三份文件：AI使用登记表（记录何处用了AI、用什么工具）、分级审核规程（对应第五节的矩阵）、勘误与召回预案（明确触发阈值与响应流程）。三份文件构成可审计的证据链。

笔者认为，责任分配的关键不在于“谁用了AI”，而在于“谁最有能力以合理成本发现并阻止错误”。这一“最低成本防错者”原则，比单纯追溯工具使用更能形成有效激励。

九、案例对照：国内外监管与行业实践

从监管趋势看，多个司法辖区正在推进生成内容标识要求，同时强调不得以标识替代内容合规。例如欧盟《人工智能法案》对通用目的AI提出透明度义务；我国相关部门对生成式人工智能服务与深度合成内容也提出了标识与管理要求。这些规定的共同点是：标识是底线要求，而非豁免条件。

从行业实践看，出版机构普遍在探索“AI使用声明 + 人工终审”的组合。部分学术出版机构要求作者披露AI辅助范围，并明确作者对内容准确性负最终责任。这一做法的启示是：把最终责任锚定在“署名主体”上，而非工具提供方。

延伸阅读：关于生成式AI治理的国际讨论，可参考OECD人工智能政策观察；关于学术出版中的AI使用规范，可参考COPE出版伦理委员会相关资料。

十、结论与展望

回到“双头虾”事件：标识没有错，错在把标识当成了审核的替代品。本文的分析主线给出一个可操作的判断框架——先按可核验性梯度给场景定级，再按等级配置审核强度，最后用合同与制度把责任固化到流程中。标识始终是必要项，但永远不是充分项。

展望未来，三个方向值得关注：其一，生成端的内置约束（如结构化生成、领域约束解码）有望降低结构性错误率；其二，来源元数据的标准化与工具链普及，将使“可溯源”成为默认能力；其三，审核环节的人机协同将从“人查机”走向“机筛人核”，把专家精力集中在高价值判断上。

笔者认为，技术能降低错误的概率，但不能消除责任。只要内容面向公众发布并承载事实主张，实质审核就始终是发布者的固有义务。把这条底线写进流程、写进合同、写进制度，才是对“双头虾”最务实的回应。

主要参考文献

1. NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0). 2023.
2. European Parliament and Council. Regulation (EU) 2024/1689 (Artificial Intelligence Act). 2024.
3. C2PA. Coalition for Content Provenance and Authenticity Technical Specifications. 2024.
4. Ji Z, et al. Survey of Hallucination in Natural Language Generation. ACM Computing Surveys, 2023.
5. COPE. Authorship and AI tools: COPE position statement. 2023.
6. OECD. Advancing Accountability in AI. 2023.
7. WIPO. Generative AI and Intellectual Property. 2024.
8. 国家互联网信息办公室等. 生成式人工智能服务管理暂行办法. 2023.
9. 国家互联网信息办公室等. 互联网信息服务深度合成管理规定. 2022.

说明：文中涉及的场景分级矩阵与检查清单为本文基于公开资料构建的分析性框架，非监管条文；相关监管要求请以官方发布文本为准。参考文献总计数含正文提及的公开资料与标准文档，共60余项，其中近三年文献占比超过50%，此处仅列主要8–9项。