12GB是SD的实用底线、24GB是Flux FP16的底线、32GB才是Wan 2.2 14B视频的底线，显存是硬墙不是速度旋钮，买卡到底该按“最重任务”还是按“当前最常用任务”来定？

一、导语：一个被误读的“底线”

“12GB 是 SD 的实用底线、24GB 是 Flux FP16 的底线、32GB 才是 Wan 2.2 14B 视频的底线”——这句话在社区里流传甚广，但多数转述者把它当成一条“建议配置”，而不是一条“可行性边界”。两者的差别极大：建议配置可以打折，可行性边界不能。显存不足时，程序通常不会报错退出，而是悄悄切换到统一内存或系统内存做换页（paging）与权重卸载（offload），任务“能跑完”，但单步耗时可能从几十毫秒涨到数秒。于是用户得到一个错觉：显存只是“快慢旋钮”。

笔者认为，这个错觉的根源在于把“容量约束”与“性能约束”混为一谈。算力、带宽、显存频率属于性能维度，投入更多金钱可以近似线性地换取更快速度；显存容量属于可行性维度，是阶跃函数——在阈值以下，一切正常；越过阈值，进入的是另一套运行机制，其代价不是百分比，而是数量级。本文的主线即由此确立：先按最重任务把容量墙砌够，再按最常用任务去挑带宽与算力。这条主线会贯穿后面的每一节核算。

为了让讨论可验证，本文所有显存数字都尽量给出构成式，而不是给一个孤立的“推荐值”。读者可以把自己的模型参数量、精度、分辨率、批大小、序列长度代入，得到属于自己的阈值。需要说明的是，文中部分数字来自公开模型卡、框架文档与社区实测的整合，凡属模拟或推算的，均会明确标注。

显存不是油门，是门槛。油门踩下去换速度，门槛跨不过去换的是“另一条代码路径”。

二、显存的物理构成：五类开销的分解模型

要谈“底线”，先得知道显存被谁吃掉了。工程上比较稳妥的做法是把峰值显存拆成五项：模型权重、激活值、注意力中间态（含 KV 缓存）、框架与运行时开销、碎片与对齐损耗。这个分解并非某篇论文的独创，而是深度学习系统实践中长期形成的经验框架；本文评述：它的价值不在于精确，而在于让“哪一项随什么变量增长”变得可讨论。

2.1 权重：最刚性、最容易算错的一项

权重显存约等于参数量乘以每参数字节数。FP16/BF16 为 2 字节，FP32 为 4 字节，INT8 为 1 字节，INT4 约 0.5 字节。但实际占用往往高于理论值，原因有三：其一，部分算子（如 LayerNorm、嵌入层、输出头）在混合精度下仍保留 FP32 副本；其二，LoRA、ControlNet、IP-Adapter 等附加模块各自带权重；其三，文本编码器（CLIP、T5）常被单独加载，体积不可忽略。

以 Flux.1 为例，其公开模型卡给出的参数量约 120 亿（dev 版本），FP16 权重约 24GB 量级；再叠加 T5-XXL 文本编码器（约 47 亿参数，FP16 约 9GB 上下），若两者同时驻留显存，总权重就逼近 33GB。这解释了一个常见困惑：为什么“24GB 卡跑 Flux”在纯 DiT 推理时勉强可行，一旦把文本编码器也留在卡上就立刻吃紧。笔者认为，讨论 Flux 的显存底线时，必须明确“是否包含文本编码器驻留”这一前提，否则数字没有可比性。

2.2 激活值：随分辨率与批大小平方级增长

激活值是前向传播中每层输出张量的驻留。对卷积网络，它与“批大小 × 通道数 × 高 × 宽”成正比；对 Transformer/DiT，它与“批大小 × 序列长度 × 隐藏维度”成正比。扩散模型的一个特殊性在于：训练时需要保存中间激活以供反向传播，推理时则可逐层释放，因此推理的激活峰值远低于训练。但视频模型把序列长度推高了一个量级——一段 81 帧、480×832 的潜空间序列，其 token 数可达数万，注意力矩阵若朴素实现，规模是 token 数的平方。

本文评述：很多“显存不够”的抱怨其实来自激活而非权重。判断方法很简单——固定模型与分辨率，只调批大小，若显存近似线性上升，激活是主因；若显存几乎不变，权重是主因。这个二分法在排查时非常有效。

2.3 注意力中间态与 KV 缓存

标准注意力需要物化一个“序列长度 × 序列长度”的分数矩阵。以 4096 token、FP16、单头为例，该矩阵约 32MB；若 16 头并行且不做分块，规模迅速到 GB 级。FlashAttention 系列工作的核心贡献正是避免物化完整矩阵，把注意力显存从平方级压到线性级（Dao 等，2022；Dao，2023）。视频扩散中，时空注意力的序列更长，是否启用分块注意力、是否启用序列并行，直接决定“32GB 够不够”。

KV 缓存主要出现在自回归解码中。视频扩散若采用自回归或多步采样缓存策略，KV 缓存会随帧数线性增长。笔者认为，评估视频模型显存时，把“KV 缓存是否常驻”列为独立变量是必要的，否则同一张卡在不同采样器下的表现差异无法解释。

2.4 框架与运行时开销

CUDA 上下文、cuDNN/cuBLAS 工作区、PyTorch 的缓存分配器、TensorRT 的引擎与临时缓冲，都会占用数百 MB 到 1GB 以上。PyTorch 的缓存分配器尤其容易被忽视：它不会把释放的块立刻还给驱动，而是留作池，导致“nvidia-smi 显示占用高，但实际活跃张量不大”。这不是泄漏，是设计使然。工程上可用 torch.cuda.memory_summary() 区分“已分配”与“已保留”。

2.5 碎片与对齐损耗

显存分配器按块管理，频繁申请释放不同尺寸的张量会产生外部碎片。经验上，碎片损耗在 5%–15% 之间波动，长序列、多分辨率混合负载时更高。这也是为什么“理论算下来刚好 24GB”的配置，实测常常 OOM。留出 10%–15% 的余量不是浪费，是给分配器的呼吸空间。

三、三条底线的逐项核算：SD、Flux FP16、Wan 2.2 14B

3.1 SD 的 12GB：为什么是“实用”而非“理论”底线

Stable Diffusion 1.5 的 UNet 约 8.6 亿参数，加上 VAE 与 CLIP 文本编码器，FP16 权重合计约 2GB 出头。单看权重，6GB 卡就该够用。但“实用底线”之所以定在 12GB，是因为真实工作流里还叠着这些东西：高分辨率下的激活、ControlNet（每个约 3.6 亿参数）、LoRA 叠加、VAE 分块解码的临时缓冲、以及浏览器与系统占用的那部分显存。

SDXL 把 UNet 推到约 26 亿参数，双文本编码器（CLIP-L + OpenCLIP-bigG）合计约 8 亿参数，FP16 权重约 7GB。在 1024×1024 下，若不做任何优化，激活与注意力开销会把峰值推到 10GB 以上。因此 12GB 对 SDXL 而言是“能舒服跑 1024、能挂一两个附加模块”的门槛。本文评述：所谓“实用底线”，本质是“权重 + 典型工作流附加项 + 激活 + 余量”的经验和，它随生态演进而漂移，不是模型本身的属性。

值得注意的是，SD 生态的优化工具极其成熟：xformers、FlashAttention、--medvram/--lowvram、VAE 分块与切片、CPU 卸载。这些手段能把 12GB 的需求压到 8GB 甚至 6GB，代价是速度下降。这恰好印证了本文主线：容量墙可以用“降级路径”绕过，但绕过之后你买到的不是同一台机器。

3.2 Flux FP16 的 24GB：文本编码器是隐藏的第三块砖

Flux.1 采用 DiT（Diffusion Transformer）架构，官方模型卡标注 dev 版约 120 亿参数。FP16 下权重约 24GB，这已经等于一张 24GB 卡的全部容量。现实中之所以“能跑”，靠的是把 T5 文本编码器先编码、再卸载，或使用 FP8/NF4 量化版文本编码器。Black Forest Labs 在发布时同时提供了 FP8 与 GGUF 量化权重，正是为了适配消费级显存。

笔者认为，Flux 的 24GB 底线应当被精确表述为：“DiT 主体 FP16 驻留 + 文本编码器分时复用 + 分块注意力”三者同时成立时的下界。缺任何一条，24GB 都不够。若坚持文本编码器常驻且全 FP16，实际需求会推到 32GB 以上。这个区分对采购决策至关重要：你买的不是“能跑 Flux”，而是“能以某种工作流跑 Flux”。

注：表中“典型峰值”为整合公开模型卡、框架文档与社区实测的区间估计，非单一来源精确测量；“经验底线”指在常见优化组合下的可接受门槛，随分辨率、批大小、附加模块而变。

3.3 Wan 2.2 14B 的 32GB：视频把序列长度推成了主要矛盾

Wan 系列是开源视频生成模型，2.2 版本提供 14B 量级的主体。视频扩散的显存结构与图像不同：潜空间的帧维度让 token 数成倍增长，时空注意力同时沿时间与空间展开。以 480×832、81 帧为例，经 VAE 压缩后潜空间序列长度可达数万 token；即便启用分块注意力，激活与中间态仍是主要开销。

因此 32GB 这个数字并不“保守”。它对应的是：14B 主体 FP16 驻留（约 28GB）几乎占满，必须依赖文本编码器卸载、VAE 分块、注意力分块与序列并行才能腾出激活空间。本文评述：视频模型的显存底线比图像模型更“脆”，因为它的弹性空间更小——图像模型可以降分辨率换显存，视频模型降帧数会直接改变内容语义，降分辨率则损失细节，可调参数少，墙就更硬。

一个常被忽略的工程细节是 VAE 解码。视频 VAE 的时序解码器在解码阶段会产生较大的临时张量，很多 OOM 发生在“采样已完成、解码时崩掉”。把 VAE 解码切块、或把解码放到 CPU，是常见的兜底手段，代价是解码时间显著增加。

四、越界之后：换页、卸载与吞吐塌陷的量化

为什么说显存是“硬墙”？因为越界后系统进入的不是“慢一点”的状态，而是“另一条路径”。这条路径通常有两种：统一内存/系统内存换页，以及权重卸载。前者依赖 PCIe 或 NVLink 在 CPU 与 GPU 间搬运数据，后者在每步前向时把部分层搬回显存。两者的共同点是：引入了远超计算本身的搬运开销。

做一个量级估算（模拟数据，用于说明数量级而非精确测量）：一张 PCIe 4.0 x16 显卡的理论带宽约 32GB/s，实际有效带宽常在一半上下。若某模型每步需要换入换出 8GB 权重，仅搬运就需约 0.5 秒；而原本一步计算可能只需 50–100 毫秒。也就是说，越界后单步耗时可能放大 5–10 倍，端到端从“几十秒出图”变成“几分钟出图”。这不是线性退化，是阶跃。

本文评述：社区里“xxGB 也能跑”的视频和帖子，多数展示的是“能出结果”，很少展示“每步耗时”和“显存换页计数”。评价一个配置是否可用，应当看三个指标：单步延迟、端到端时间、以及是否触发换页（可用驱动或框架的计数器观察）。只看“跑通了”会系统性高估小显存的实用性。

五、选卡方法论：最重任务定容量，最常用任务定带宽

回到标题的问题：买卡该按“最重任务”还是“当前最常用任务”？笔者的答案是分轨——容量按最重任务定，带宽与算力按最常用任务定。理由在于两类资源的约束性质不同：容量是可行性约束，一旦不够，最重任务直接不可用，没有折中；带宽与算力是性能约束，够用即可，超出部分对最常用任务的边际收益递减。

具体操作可以拆成五步。第一步，列出你未来 18–24 个月可能触及的“最重任务”，包括模型、分辨率、帧数、批大小、是否挂 ControlNet/LoRA。第二步，用第二节的分解模型估算每项的峰值显存，取最大值作为容量下界，再上浮 15% 作为余量。第三步，统计最常用任务的分布，确定你 80% 时间在跑什么，据此选带宽与算力档位。第四步，检查目标卡的“降级路径”是否成熟（量化权重、分块注意力、卸载工具），成熟度高可适度下调容量。第五步，用真实工作流做一次端到端压测，记录单步延迟与是否换页，作为最终确认。

本文评述：这套方法的关键在于“承认不确定性”。未来任务会变，所以容量要按“可能的最重”而非“今天的最重”来定；但也不能无限上推，否则为一年用一次的任务付全年代价。折中点是：容量留一档余量，性能按当前主力配置，把“未来更重的任务”交给云或租用，而不是一次性买断。

延伸阅读方面，PyTorch 官方的显存管理文档（pytorch.org/docs/stable/notes/cuda）对缓存分配器的解释是排查碎片问题的第一手材料；Hugging Face Diffusers 的优化指南（huggingface.co/docs/diffusers/optimization/memory）系统列出了卸载、分块、量化等降级手段；FlashAttention 项目页（github.com/Dao-AILab/flash-attention）提供了注意力显存优化的原理与实现。视频方向可参考 Wan 官方仓库（github.com/Wan-Video）的推理脚本与显存说明。

六、边界条件、局限与前沿预判

本文的核算有三条明确的边界。其一，所有数字都建立在“单卡”前提上；多卡张量并行、序列并行会改变显存分布，底线不再适用。其二，数字随软件版本漂移——同一个模型，换一版 Diffusers、开或不开 xformers，峰值可能差 10%–20%。其三，量化会显著改变权重项，INT8/INT4 能把 24GB 的 Flux 压到 12GB 级，但会引入质量与兼容性代价，不能简单等同于“小显存也能跑”。

前沿方向上，笔者认为有三条值得跟踪。第一是注意力与序列并行的进一步工程化，把视频模型的平方级开销继续压平，这会直接松动 32GB 这条线。第二是权重流式加载与分层卸载的成熟，让“容量不够”从“不可用”变成“可接受地慢”，但这依赖高速互连，消费级平台受益有限。第三是模型侧的效率设计，如更激进的潜空间压缩、蒸馏与少步采样，它们从源头减少激活与序列长度，是比“堆显存”更可持续的路径。

本文评述：不要指望软件优化把硬墙变成软墙。优化能把墙往后推，但推不动物理。对采购者而言，最理性的姿态是：把容量买到“当前最重任务 + 一档余量”，把性能买到“当前主力够用”，把“未来更重”留给时间与租赁。这不是保守，是对阶跃约束的尊重。

七、结论与操作清单

三条底线的本质，是三类模型在“权重 + 激活 + 注意力”上的不同配比：SD 以权重为主、激活可控，12GB 是生态附加项堆出来的实用线；Flux 以权重为主且文本编码器是隐藏大头，24GB 是“主体驻留 + 编码器分时”的下界；Wan 2.2 14B 以序列长度为主，32GB 是给激活留出呼吸空间的工程线。三者共同说明：显存是可行性约束，不是性能旋钮。

操作清单可以浓缩为四句：先算最重任务的峰值，再上浮 15% 定容量；按最常用任务选带宽与算力；优先选降级路径成熟的生态；最后用真实工作流压测单步延迟与换页。做到这四步，买卡就不再是“猜”，而是“算”。