DeepSeek V4 Pro 与闪存显存在每次量化(FP8、FP4+FP8、INT4、Q2)的单层表——跨官方和社区来源三角定位。
快速回答。DeepSeek V4 闪存是现实中可自托管的变体:预算级 ~170-175 GB 总显存,原生 FP4+FP8(2 个 H200 或 4 个 A100 80GB),社区 INT4 则为 ~90-100 GB(4 个 RTX 4090)。V4 Pro 需要 ~1TB+ 显存,属于数据中心集群,不是工作站型号。

今天问“DeepSeek V4需要多少显存?”你会得到五种不同的答案。有些页面标注33 GB,有些标注1.2 TB,大多数人默默地混淆了Pro和Flash版本,混淆了基础和权重,或者干脆忘记了KV缓存。本文通过一个分层表解决了这个问题,涵盖了官方Hugging Face模型卡、DeepSeek V4发布说明、Unsloth的量化笔记以及可信的部署指南。当资料确实存在分歧时,我们会给出一个范围并同时引用,而不是捏造精确数字。
简而言之:V4 Flash(总284B,13B活跃)是严肃自主机唯一应瞄准的变体。V4 Pro(总计1.6T,49B活跃)是一款多节点数据中心模型——更接近运行GPT-4级基础设施,而非家庭实验室构建。如果你还在犹豫哪个版本更适合你的使用场景,我们对 DeepSeek V4 Pro 与 Flash 的性能和定价分析,详细分析了它们的权衡。
DeepSeek V4显存的基本要求是什么?
这是可引用的资产。数字仅在尺寸列中表示权重;“最小显存”列已经为100万令牌KV缓存和运行时开销增加了工作空间。除非另有说明,所有图表均为指示检查点(基础检查点为FP8及更大范围——详见基础模型行)。
DeepSeek V4 Flash
| 量子化 | 近似权重 | 最小显存(包含KV + 开销) | 示例 GPU / 主机 |
|---|---|---|---|
| BF16(去量化) | ~520-570 GB | ~640 GB | 8个H100 80GB / 8个H200(很少值得) |
| FP8混合(基础重重管) | ~290-295 GB | ~320 GB | 4台H100 80GB / 4台A100 80GB |
| FP4+FP8 原生(指导,推荐) | ~158-160 GB | ~170-175 GB | 2个H200(282GB)或4个80GB A100 |
| Q6 / Q5 GGUF | ~100-120 GB | ~128-160 GB | 2个H100 80GB / 1个H200(紧凑) |
| INT4 / Q4(社区AWQ,~5%质量损失) | ~80 GB | ~90-100 GB | 4个RTX 4090 24GB(96GB)或2个RTX 6000 Ada。 |
| Q3 GGUF | ~60 GB | ~80-96 GB | 1台H100 80GB(非常紧凑)/ 2台RTX 6000 Ada显卡 |
| Q2(极端,质量风险) | ~40 GB | ~48-64 GB | 2个RTX 4090 / 1个RTX 6000 Ada 48GB |
DeepSeek V4 Pro(数据中心版本)
| 量子化 | 近似权重 | 最小显存(包含KV + 开销) | 示例主机 |
|---|---|---|---|
| BF16(去量化) | ~3.2 TB | ~3.5 TB+ | 仅多节点集群 |
| FP8混合(基础重重管) | ~1.6 TB | ~1.7 TB+ | 多节点H200/B200集群 |
| FP4+FP8 本地(指导) | ~862 GB | ~1.0-1.2 TB | 8个H200 141GB / DGX H200(单节点)或16个H100多节点 |
| Q4(实验性) | ~430 GB | ~512-640 GB | 8个H100 80GB(640GB)——仍属集群级 |
| Q2(仅限研究) | ~216 GB | ~256-320 GB | 4x H100 80GB — 质量严重损失,不推荐 |
从这两张表中最重要的结论是:即使是Q4 V4 Pro(~430 GB)也无法装进8个H100 80GB机箱(640 GB),一旦加上KV缓存和100万上下文的开销余量,而原生的Ininstruction检查点(~862 GB)也完全放不下。Pro在所有真实精度下都是仅用簇的。
你该怎么读这张表才不会被伤害?
有三个前提条件决定你的实际部署是否符合这些数字:
- “主动参数”并不会降低显存。V4 Flash 每个令牌只激活 284B 参数中的 13B,但所有专家权重必须驻留在 GPU 内存中(或处于快速卸载层),路由器才能访问其中任何一个。主动参数减少计算和延迟,而不是减少占用。这就是流传的极度乐观的“33 GB”宣称中最常见的来源——他们计算的是13B x 2字节,忽略了其他271B参数。
- V4的KV缓存较小——但并非零。V4的混合压缩稀疏注意力(Compressed Sparse Attention)确实高效:DeepSeek报告V4约占标准8头GQA模型所需KV缓存的2%,而Flash的100万令牌缓存约为10 GB。这就是为什么158GB的权重集总预算会变成~170-175GB,而不是你预期的旧款长上下文机型的300 GB+。更短的上下文进一步缩小了这一点。
- 基础和教导很重要。指令检查点以原生的FP4+FP8混合精度发船(FP4用于MoE专家,FP8用于注意/规范/路由器)。基地检查点全是FP8,因此大约是FP8的两倍。除非你特别需要基础模型来微调,否则可以引用指示编号。
如果某个来源给出的只有一个精确的显存数据,却没有说明具体的变体、检查点或上下文长度,那就当它不可靠。老实说,答案总是与这三个变量相关的范围。
DeepSeek V4 flash最便宜的现实配置是什么?
实际运行Flash有三个可信的等级,从最便宜到最强:
- Community INT4 / AWQ,总共 ~90-100 GB——最便宜且可行的。4个RTX 4090 24GB机顶盒(96 GB聚合)或2个RTX 6000 Ada可以装INT4配置。相比原生FP4+FP8,质量大约下降5%,主要集中在推理性强的任务上。这不是官方配方——这是一个社区的AWQ/INT4量化算法——但对于拥有消费级GPU的自主机用户来说,这是现实的切入点。一旦 Flash 启动服务,你可以用自架的 AI 编码代理指向它,实现完全本地的 Cline/Continue 工作流程。
- 在2台H200上使用原生FP4+FP8——推荐目标。~170-175 GB 总容量可舒适地安装在 2x H200(282 GB)或 4x A100 80GB(320 GB)上。大多数部署指南都将这种配置视为“生产Flash”的最佳点。在云端,2个H200 Pod在像RunPod这样的供应商上运行,时薪大约只有个位数;一个8个H100实例,配备舒适的余量,成本更高(比如按需每小时几十美元)。如需更广泛的供应商和费率比较,请参阅我们对大型语言模型最佳云GPU的分析。
- 官方vLLM配方,4xH200——生产级。DeepSeek 及其生态系统对 Flash 的参考部署是基于 vLLM 的 4 个 H200 节点,采用 MoE 专家并行处理(我们对 vLLM、Ollama 和 LM Studio 的生产基准测试解释了为什么 vLLM 是可扩展的服务运行时)。当你需要完整的100万上下文和并发服务时,而不是仅仅开发者机,才用这个。
有一个硬件问题值得提醒:截至2026年5月,多份部署说明显示RTX Pro 6000 Blackwell显卡在V4加载时发生了vLLM电感器编译路径崩溃。这块卡纸上有内存,但软件路径还不可靠——在专门为该型号制作Blackwell盒子前,先确认当前vLLM和驱动状态。
对于单GPU开发/测试机来说,单个H200(141GB)可以承载量化Flash构建进行实验,但这比较紧凑,且不适合生产。原生Flash没有消费级单卡配置——最小的真实单GPU故事是H100/H200上的高度量化GGUF,质量损失可测。硬件尺寸确定后,我们完整的 DeepSeek V4 Flash 本地安装指南会一步步讲解实际安装和服务步骤。
同伴指南
关于架构、基准、定价以及V4相较于其他车型的全面情况,请参阅我们的DeepSeek V4完整指南(2026年)。
为什么 DeepSeek V4 Pro 仅支持集群?
V4 Pro的总参数MoE为1.6T。即使在最紧凑的原生FP4+FP8指令形式中,磁盘权重也是~862 GB。有三个结构性原因使其成为一个集群工作:
- 它无法安装在单个8x80GB节点上。8GB H100 80GB 显存可达 640 GB。862GB的原生检查点在加载单个KV缓存令牌之前就超出了这个容量。你需要8个H200 141GB(~1128GB,单节点)或多节点的H100/H200配置,配合InfiniBand。
- 量化专业版并不能挽救它。假设的Q4 Pro仍然有~430 GB的权重,加上100万上下文KV缓存加上开销,你又超过了8个H100的容量。没有什么定量层次能让 Pro 变成工作站模型——只是变成一个稍小但质量下降的集群模型。
- 专家们要求平行性。在可用吞吐量下提供1.6特斯拉的MoE意味着在多块GPU之间实现专家并行分片,并实现高带宽互连(节点内使用NVLink,节点间使用InfiniBand)。这在操作上是分布式系统的问题,而不是“点安装 vllm”的问题。
如果你需要专业级的质量,又不想运行数据中心,老实建议使用托管的DeepSeek API或GPU云端点,而不是自托管。自托管只有在Flash规模下才有经济和运营意义。
我们是如何三角定位这些数字的?
没有单一来源拥有一张干净、完整、可信的表格——这正是为什么零散且矛盾的数据随处可见。我们交叉核对了:
-
官方一手资料:DeepSeek V4 贴身模型卡(、)以及官方 DeepSeek V4 发布说明——参数计数(1.6T/49B Pro,284B/13B 闪存)、精密格式(FP4 专家 + FP8 休息用于指导,FP8 全线用于基础),以及 KV 缓存效率宣称(~标准 GQA 的 2%;闪现 ~7%,Pro 在 100 万代币下 V3.2 的 ~10%)。
deepseek-ai/DeepSeek-V4-Prodeepseek-ai/DeepSeek-V4-Flash - 量化生态系统:Unsloth的V4-Flash GGUF备注(Q4_K_M定位为质量最佳匹配~1x80GB或2x48GB)和社区INT4/AWQ构建报告约80GB和~5%的质量损失。
- 部署指南:独立自主机文章汇聚在 ~158-160 GB 闪存权重 / ~170-175 GB 总共 2x H200,4 个 H200 官方 vLLM 配方,Blackwell vLLM 崩溃警告,以及“Pro 不适合 8x H100”的结论。
当部署指南存在分歧时(例如,闪存的具体权重大小有为~158 GB或~159.6 GB,且“安全”显存余量因指南而异),我们呈现了一个范围,而非一个假精度的单一数字。厂商报告的KV缓存效率数据标注为DeepSeek自身的声明,而非此处独立基准测试。
常见问题
我可以在一台RTX 4090上运行DeepSeek V4吗?
不。单个RTX 4090有24GB显存。最小的真实V4 flash版本(极限Q2)需要~48-64 GB,但即便如此,质量损失也非常严重。实用的INT4闪存配置大约需要4个RTX 4090。任何可用的V4版本都没有单一消费者GPU配置。
DeepSeek V4 flash在原生FP4+FP8时需要多少显存?
计划总显存约170-175 GB:大约158-160 GB的FP4+FP8权重,约10 GB用于完整的100万令牌KV缓存,以及几GB的运行时开销。这可以装在2台H200或4台80GB的A100上。
为什么不同网站给DeepSeek V4的显存数差异这么大?
有三个原因:他们把Pro(1.6T)和Flash(284B)混为一谈;他们将FP8基础检查点与较小的FP4+FP8指令检查点混淆;他们把13B的活动参数计数当作内存占用。所有权重都必须是常驻的,无论每个代币激活的数量多少。
100万令牌上下文会不会让DeepSeek V4的显存爆裂?
远低于旧的长上下文模型。V4的混合压缩稀疏注意力(Compressed Sparse Attention)将KV缓存控制在标准分组查询注意力的约2%。对于Flash来说,完整的1M令牌缓存大约是10 GB——相对于~158 GB的权重来说,这个缓存很小。
DeepSeek V4 Pro 可以自托管吗?
只在数据中心集群上。原生 Instruct 检查点为 ~862 GB,需要 ~1 TB+ 显存——即 8 个 H200 单节点或多节点 H100/H200 配备 InfiniBand 的显存。即使是第四季度,它也装不下8x的H100 80GB盒子。对大多数团队来说,托管API是正确的选择。
自托管V4 flash最便宜且可信的方法是什么?
社区用4个RTX 4090(~90-100 GB)构建INT4/AWQ是最便宜可行的路径,按理计算质量损失约5%。推荐的生产配置是原生FP4+FP8,连接2台H200;官方的vLLM参考是4xH200节点。
我现在应该避免用RTX Pro 6000 Blackwell的V4吗?
截至2026年5月,多个部署说明报告称,RTX Pro 6000 Blackwell的V4在加载时存在vLLM电感器编译路径崩溃。内存在纸面上是足够的,但在为该型号提交Blackwell构建前,请核实当前的vLLM和驱动程序状态。
如果你正在招聘经过审核的远程开发者,熟悉自托管LLM基础设施——包括vLLM调优、MoE专家并行处理、多GPU和多节点服务,以及本文介绍的容量规划——codersera.com/hire 可以帮你匹配到完全具备这些能力的工程师。这是一种快速降低招聘风险的方法,针对这一以专业技能著称的技能。









