当扩散模型把“看起来像”做到极致,“动起来对”就成了新的分水岭。流体与碰撞这两类高频失败,暴露的不是画质问题,而是生成范式对物理约束的结构性失配。本文试图给出一条可操作的判定主线:什么样的镜头,从一开始就不该交给纯生成模型。
当前主流视频生成模型在视觉逼真度上已跨过可用门槛,但在物理一致性上仍存在系统性缺陷。跨模型复现的实验与公开评测显示,流体行为(蒸汽、烟雾、液体)与刚体碰撞(球体反弹、堆叠、破碎)是失败率最高的两个类别,典型症状包括重力方向反转、动量不守恒、物体穿透与凭空消失。本文以“物理可生成性边界”为贯穿主线,先界定问题的数学本质——生成模型学习的是像素联合分布的近似采样,而非受约束的动力系统积分;随后从数据、表示、目标函数三个层面拆解失败机理;再给出一个可落地的四维判定矩阵与分级管线方案;最后讨论哪些场景应坚决走仿真或实拍路线,哪些可以交给生成模型并以何种方式兜底。全文强调可验证性:所有关键论断均对应可复现的评测方法或公开数据来源。
问题的定义:从“像”到“对”的范式断层
视频生成模型在过去两年完成了从“能出画面”到“能出可用画面”的跃迁。以扩散模型为骨架的潜空间视频生成方案,把时空潜变量压缩后做去噪采样,配合大规模文本-视频对训练,已经能稳定输出数秒级、分辨率可接受、镜头语言基本合理的片段。问题在于,这类系统的优化目标始终是“与训练分布中的真实视频在感知上不可区分”,而不是“满足某一组物理约束”。这两件事在多数日常镜头里高度重合,但在流体与碰撞场景里会迅速分叉。
所谓物理一致性,本文采用一个可操作的界定:给定初始状态与外部作用,生成序列中可观测物理量的演化,应当与真实世界在同一精度下的演化在统计意义上不可区分。可观测物理量包括但不限于重力方向、速度场、动量与角动量、接触约束、体积守恒。蒸汽向下飘违反的是浮力与重力方向;踢歪的球仍然进球违反的是动量传递与轨迹预测;物体凭空消失违反的是物质守恒与遮挡连续性。这三类症状看似分散,实则同源。
一个常被忽略的事实:视频生成本质上是在做“条件采样”,条件里没有牛顿定律。模型见过大量下落的水滴,学到的是“水滴在画面中向下移动”这一像素级相关性,而不是“重力加速度约 9.8 m/s²”这一物理量。相关性在分布内足够用,一旦镜头、材质、光照或初始条件偏离训练分布,相关性就会失效,表现为方向反转、速度突变、接触穿透。
笔者认为,把这类失败简单归因为“模型还不够大、数据还不够多”是一种危险的简化。规模定律在感知指标上确实持续有效,但在约束满足上存在收益递减:模型可以学会更细腻的烟雾纹理,却不会因此学会纳维-斯托克斯方程的不可压缩约束。约束满足需要的是结构,而不是容量。这也是为什么跨模型比较时,流体与碰撞会稳定地排在失败类别前列——它不随参数量线性改善。
从工程视角看,这个断层直接决定了工作流设计。把视频生成当作“万能镜头工厂”,在人物口播、氛围空镜、风格化转场上收益极高;但一旦镜头里出现液体倾倒、织物飘动、多物体堆叠、球类运动、破碎飞溅,纯生成路线的返工率会陡增。返工不是调参能解决的,因为错误是结构性的。识别这一点,比继续堆提示词更有价值。
失败机理拆解:数据、表示与目标函数的三重错配
要判断“哪些场景不该交给 AI”,先要理解它为什么会在特定场景失败。笔者把机理归为三层错配,逐层递进。
第一层:数据层
公开视频数据集中,高质量流体与碰撞片段占比极低。真实拍摄的慢动作流体需要高速相机与受控光照,成本高;碰撞类镜头在剪辑中常被切碎,完整因果链被剪掉。模型看到的多是“结果帧”,而非“过程帧”,因果监督信号天然稀疏。
第二层:表示层
潜空间压缩对纹理友好,对物理量不友好。8×8 或 16×16 的空间下采样会把亚像素级的接触点、薄液膜、细绳张力抹平。碰撞发生在极小的时空邻域,压缩后信息不可恢复,模型只能“猜”一个视觉合理的接触结果。
第三层:目标层
去噪目标等价于最大化对数似然的下界,衡量的是像素分布匹配度。动量守恒、不可压缩性这类约束是等式或不等式,不是概率项。目标函数里没有它们的位置,模型就没有动力去满足它们。
三层错配里,第三层最根本。本文评述:即便前两层被完美解决——数据集全是高质量流体、表示做到像素级无损——只要目标函数仍是纯感知损失,模型依然可能生成“视觉上极像、物理上错误”的样本。因为感知损失对“蒸汽向下飘但纹理极真”的惩罚,远小于对“方向正确但纹理模糊”的惩罚。这是目标函数的价值排序问题,不是数据问题。
一个具体的量化视角:在公开的物理一致性评测中,研究者通常用光流估计器提取生成序列的运动场,再与仿真参考的运动场比对,计算端点误差与方向一致率。流体类样本的方向一致率普遍显著低于刚体类,原因在于流体的运动场是高维、连续、强非线性的,任何局部误差都会沿时间累积;而刚体碰撞的误差集中在接触瞬间的几个帧,其余时段相对稳定。这解释了为什么“蒸汽向下飘”比“球没进”更容易被肉眼第一时间发现——前者是全程错误,后者是瞬时错误。
还有一个容易被低估的因素:文本条件的语义鸿沟。提示词里写“蒸汽升腾”,模型对“升腾”的理解来自图文对齐训练,而图文对齐数据里“升腾”常与“向上”共现,但也会与“弥漫”“缭绕”共现,后者在视觉上并不强调方向。当提示词同时包含“浓郁”“弥漫”“升腾”时,方向信号被稀释,模型可能采样到方向模糊甚至反向的样本。这不是模型不懂物理,而是条件本身没有把物理约束编码进去。
评测方法论:如何把“物理对不对”变成可测指标
没有度量就没有工程。判断“该不该交给 AI”,前提是能稳定测出“交给 AI 之后错到什么程度”。笔者建议采用三层评测:感知层、运动层、约束层,逐层加严。
| 层级 | 度量对象 | 典型指标 | 判据方向 |
|---|---|---|---|
| 感知层 | 单帧画质与帧间稳定 | FVD、LPIPS、闪烁率 | 越低越好 |
| 运动层 | 光流场与参考的偏差 | EPE、方向一致率、轨迹误差 | 越低越好 |
| 约束层 | 物理量是否满足守恒/边界 | 穿透帧率、体积漂移、动量残差 | 越低越好 |
约束层是最关键也最难做的一层。以碰撞为例,可用实例分割或点跟踪提取物体掩码,逐帧检测掩码重叠面积;真实世界中刚体不应有显著重叠,重叠面积超过阈值即记为穿透帧。以流体为例,可用光流积分估计区域体积变化,不可压缩流体的体积漂移应控制在很小范围内。这些指标不需要真值仿真,只需要几何与守恒的先验,因而具备跨模型可比性。
笔者认为,评测设计里最容易犯的错误是“用生成模型评生成模型”。用另一个大模型做裁判,裁判本身也可能被纹理欺骗,给出偏高的物理合理性评分。更稳的做法是引入不依赖学习的几何检查器与守恒检查器,哪怕它们粗糙,也比一个会“欣赏”错误样本的裁判可靠。工程上可以两者并用:学习型裁判负责语义合理性,几何检查器负责硬约束,二者冲突时以硬约束为准。
还有一点值得强调:评测必须绑定具体场景与具体镜头参数。同一模型在“慢速全景流体”和“高速特写碰撞”上的表现可能差出一个量级。脱离场景谈“物理一致性得分”没有工程意义。建议在内部建立场景化的评测集,每个场景固定 20–50 条提示词与初始帧,长期跟踪,才能看出模型迭代是否真的改善了约束满足,而不是只改善了观感。
判定矩阵:四维坐标下的场景分级
本文的核心主张是:是否该把某个场景交给 AI 生成,不应凭感觉,而应落在一个四维判定矩阵上。四个维度分别是:因果链长度、约束硬度、观测精度要求、可接受返工成本。每个维度打分后,场景会自然落到“放心生成”“生成+校验”“仿真主导”“实拍主导”四个区间。
维度一:因果链长度
指从初始状态到目标画面之间,需要正确传递的物理交互步数。单次下落、单次反弹是短链;多米诺、连锁堆叠、多物体连续碰撞是长链。链越长,误差累积越严重,生成模型的可靠性下降越快。经验上,超过三步因果传递的场景,纯生成路线的失败率会明显抬升。
维度二:约束硬度
指物理约束被违反时,观众是否能立刻察觉。体积守恒、接触不穿透、重力方向属于“硬约束”,违反即穿帮;而烟雾的整体形态、液体的表面细节属于“软约束”,轻微偏离不易被察觉。硬约束多的场景,生成模型的风险显著更高。
维度三:观测精度要求
指成片分辨率、帧率、镜头运动对物理细节的放大程度。高速摄影、微距、慢动作会把接触瞬间放大到逐帧审视,任何穿透或速度突变都无处遁形;而远景、快速摇镜、浅景深则天然掩盖细节误差。
维度四:可接受返工成本
指该镜头在整条片子中的可替换性与预算弹性。广告主视觉镜头返工成本极高,必须一次做对;信息流素材、氛围过渡镜头可以多抽几次、挑一条能用的。返工成本低的场景,生成模型的试错优势才能发挥。
| 场景类型 | 因果链 | 约束硬度 | 精度要求 | 返工成本 | 建议路线 |
|---|---|---|---|---|---|
| 氛围烟雾、远景蒸汽 | 短 | 软 | 低 | 低 | 放心生成 |
| 人物口播、空镜转场 | 短 | 软 | 中 | 低 | 放心生成 |
| 液体倾倒、近景蒸汽 | 中 | 中 | 中 | 中 | 生成+校验 |
| 单球反弹、简单抛接 | 中 | 硬 | 中 | 中 | 生成+校验 |
| 多物体堆叠、连锁碰撞 | 长 | 硬 | 高 | 高 | 仿真主导 |
| 高速特写碰撞、破碎飞溅 | 长 | 硬 | 极高 | 极高 | 实拍主导 |
这张表是本文的“操作核心”。它的价值不在于给出绝对答案,而在于把模糊的“能不能用 AI”转成可讨论的坐标。团队在立项时逐项打分,分数落在哪一档,就走哪一档的管线,避免在错误的路线上反复调参。笔者认为,比起追求一个更强的模型,先把场景分级做对,对产出质量的提升更直接、更可控。
需要提醒边界条件:矩阵的权重不是固定的。品牌片对硬约束的容忍度接近零,短视频信息流则可以放宽;同一场景在 1080p 与 4K 下的精度要求也不同。因此矩阵应作为“可配置模板”使用,而不是一张放之四海皆准的评分卡。建议每个团队基于自身业务,校准一次权重,再固化下来。
工程路径:分级管线与兜底策略
判定之后是落地。笔者把可操作的路径整理为“四级管线”,从纯生成到纯实拍,中间两级是混合方案,也是大多数团队真正该投入的地方。
L1 纯生成
适用于软约束、短因果链、低精度要求。流程:提示词工程 → 批量采样 → 感知层筛选 → 人工终选。关键是建立可复用的提示词模板与种子库,把随机性控制在可接受范围。
L2 生成+校验
适用于中等硬约束。流程:生成 → 光流与掩码提取 → 穿透/方向/体积检查 → 不合格则局部重绘或换种子。校验器可以是轻量脚本,不必上大模型。
L3 仿真主导
适用于长因果链、硬约束。流程:物理引擎出低模运动与深度 → 生成模型做材质与光照的风格化 → 合成。运动由仿真保证,观感由生成补齐。
L4 实拍主导
适用于极高精度、极高返工成本。实拍为主,生成仅用于擦除、扩展、补帧等辅助环节。此时生成模型是“修图工具”,不是“摄影机”。
L3 是当前性价比最高的混合路线,值得展开。其核心思想是“运动与外观解耦”:物理引擎负责把位置、速度、接触这些硬约束算对,生成模型只负责把低模渲染得好看。具体步骤可以拆成五步。第一步,用简化几何体在引擎中搭建场景,设定质量、摩擦、恢复系数,跑出运动轨迹与相机参数。第二步,导出深度图、法线图、物体掩码与光流作为条件。第三步,以这些条件驱动视频生成模型做条件采样,约束其运动与仿真一致。第四步,用校验器检查合成结果的接触与体积,必要时回退重采。第五步,做色彩与颗粒的统一,消除仿真与生成之间的质感断层。
本文评述:这条路线并非没有代价。仿真出的运动在风格化场景里可能显得“太规整”,与生成模型的有机质感冲突;条件控制过强又会压制生成模型的细节表现力。工程上需要在“约束强度”上做连续调节,而不是二选一。笔者的经验是,把仿真条件作为软引导而非硬掩码,给模型留出局部自由度,往往能在一致性与观感之间取得更好的平衡。
兜底策略同样重要。任何生成管线都应有“失败可回退”的设计:当校验器连续多次判定不合格时,自动降级到上一级管线,而不是无限重试。无限重试是工程上最常见的隐性成本黑洞。建议设定明确的预算上限——比如单镜头采样不超过 N 次、校验不通过超过 M 次即转人工或转仿真,把不确定性关进预算的笼子里。
如果想动手验证,可以从公开的物理引擎与视频生成工具入手。物理仿真可参考 PyBullet 官方文档 与 NVIDIA PhysX;光流与跟踪可用 CoTracker 一类开源实现;视频生成侧可关注 Hugging Face Diffusers 的视频管线示例。这些资源足以搭出一个最小可用的 L2/L3 验证环境。
前沿预判:世界模型能否补上这一课
当前学界与工业界的一条主线,是把视频生成推向“世界模型”:不只预测下一帧像素,而是预测下一时刻的状态。若状态表示里显式包含位置、速度、接触等物理量,约束就有了落脚点。这条路线在概念上是对的,但落地仍有距离。
笔者认为,世界模型要真正解决流体与碰撞问题,至少需要三个条件同时成立:一是状态表示可观测且可监督,二是训练目标里显式包含约束项,三是推理时能做长程一致性维护。三者缺一不可。目前多数工作在前两点上有进展,第三点仍是难点——自回归式的长程生成会漂移,漂移一旦发生,物理量就失去意义。这不是靠更大模型能自动解决的,需要架构层面的记忆与校正机制。
另一个值得关注的方向是“生成+可微仿真”的联合训练。把可微物理求解器嵌入生成管线,让梯度从感知损失回传到物理参数,理论上能让模型学会“为了看起来对而把物理算对”。这条路线在刚体与布料上有初步探索,在流体上仍受限于求解器成本与稳定性。本文评述:方向正确,但短期内更适合作为研究工具,而非生产管线。生产环境更现实的选择,仍是前面说的分级混合。
对从业者而言,前沿预判的意义不在于押注哪条路线,而在于判断“现在该不该等”。笔者的判断是:不要等。物理一致性的改善会是渐进的,而业务对视频的需求是当下的。正确的姿态是建立分级管线,把当前能做的做扎实,同时保留接口,等新能力成熟时能低成本接入。把架构做成可插拔的,比赌一个模型更稳。
结论与展望
回到标题里的三个症状:蒸汽向下飘、踢歪的球还能进球、物体凭空消失。它们不是三个孤立的 bug,而是同一个结构性问题的三种表现——生成模型优化的是感知相似度,不是物理约束满足。流体与碰撞之所以成为跨模型最高频的失败类别,正因为它们对约束最敏感、对因果链最长、对观测精度要求最高。
因此,“哪些场景从一开始就不该交给 AI 生成”有了可操作的答案:因果链长、约束硬、精度要求高、返工成本高的场景,不该把纯生成当作主路线。它们应走仿真主导或实拍主导,生成模型退居辅助。反过来,软约束、短链、低精度、可试错的场景,生成模型的性价比无可替代。中间地带用“生成+校验”兜底,是当前最务实的工程选择。
展望来看,物理一致性会沿着“评测标准化 → 混合管线普及 → 世界模型逐步补位”的路径演进。短期内,评测标准化的价值最大,因为它让不同方案可比、让返工可量化。中期,混合管线会成为行业默认,纯生成与纯仿真的边界会随场景细分而移动。长期,若世界模型在长程一致性上取得突破,今天的判定矩阵会被重写——但在那之前,按边界办事,是更负责任的选择。
最后需要强调本文的局限:判定矩阵的权重来自工程经验与公开评测的归纳,并非严格的控制实验;不同模型、不同版本的表现差异很大,读者应以自建评测集为准。所有结论都应被视为“当前条件下的工程判断”,而非终局定论。
- Blattmann A, et al. Stable Video Diffusion: Scaling Latent Video Diffusion Models to Large Datasets. arXiv:2311.15127, 2023.
- Brooks T, et al. Video generation models as world simulators. OpenAI Technical Report, 2024.
- Liu Y, et al. PhysicsBench: Towards Physically Consistent Video Generation Evaluation. arXiv 预印本, 2024.(评测集构建,含流体与碰撞子集,预处理采用光流与掩码对齐)
- Chen H, et al. PhysGen: Rigid-Body Physics-Grounded Image-to-Video Generation. ECCV, 2024.
- Xie T, et al. PhysDreamer: Physics-Based Interaction with 3D Objects via Video Generation. ECCV, 2024.
- Karaev N, et al. CoTracker: It is Better to Track Together. ECCV, 2024.
- Huang Z, et al. VBench: Comprehensive Benchmark Suite for Video Generative Models. CVPR, 2024.
- Zhang Y, et al. A Survey on Physically Consistent Video Generation. arXiv 预印本, 2025.(综述,统计近三年文献占比高)
- Coumans E, Bai Y. PyBullet, a Python module for physics simulation. 开源文档, 持续更新.

