AI MARKET DATA # DeepSeek V4.1 Flash 本地部署测算 DeepSeek V4.1 Flash（DeepSeek）在不同算力卡上的本地部署配置、预估性能与适用场景。 数据更新时间：2026-09-16 [← 返回开源模型部署测算总览](https://www.tandiu.cn/local-deploy) **官方推理引擎: [DeepInfer](https://github.com/deepseek-ai/DeepInfer)** DeepSeek 2026-10-20 开源了自家线上服务用的推理框架 DeepInfer(Apache-2.0),目前只支持本模型,硬件限 NVIDIA SM100(B200/B300)与昇腾 950。本次开源仅含离线推理,搭成在线服务还缺 KV 缓存系统、预填充/解码分离和负载均衡;要对外提供 API 目前仍需 vLLM / SGLang 等通用引擎。 [与 vLLM / SGLang 等对照 →](https://www.tandiu.cn/local-deploy#engines) 总参数**763B**决定权重显存占用 激活参数**16B**决定解码算力与速度 开源协议**MIT**[官方仓库 →](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash) 公开评测**AA 32.0 · LiveBench 75.8 · Epoch ECI 158.8** 原厂 Token 报价**¥2.00 / ¥8.00**输入 / 输出 · 每百万 Token · 缓存命中 ¥0.04 · [Token报价 →](https://www.tandiu.cn/token-market) 原厂 API 输出速度**175.0 tok/s**首字 1.10s · Artificial Analysis 实测，可与下方本地估算对照 ## B300 288GB 288GB · 8,000GB/s带宽 · 顶级Blackwell卡（对华无官方渠道） 建议精度 **FP16/BF16原始精度** 所需卡数 **8张** 预估解码速度 **2,000 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 3,400 tok/s**输入 73,125 tok/s · 多请求批处理估算 硬件出厂价 **¥2,137,856–¥5,010,600**按1台8卡整机计价云端时租(实时)×8张：¥453.6–¥529.6/时（2026-11-01） 硬件市场价 **¥7,000,000**按1台8卡整机计价报价日期 2026-09-17 适用场景 机构级超大规模训练与高并发推理集群 ## GB200 192GB（单卡等效） 192GB · 8,000GB/s带宽 · 顶级Blackwell卡（对华无官方渠道） 建议精度 **INT8量化** 所需卡数 **8张** 预估解码速度 **4,000 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 6,800 tok/s**输入 81,250 tok/s · 多请求批处理估算 硬件出厂价 **¥1,601,280–¥2,401,920** 硬件市场价 **¥4,800,000–¥9,600,000**报价日期 2026-06 适用场景 超大规模万亿参数模型训练与推理集群（与Grace CPU协同组网） ## B200 180GB 180GB · 8,000GB/s带宽 · 顶级Blackwell卡（对华无官方渠道） 建议精度 **INT8量化** 所需卡数 **8张** 预估解码速度 **4,000 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 6,800 tok/s**输入 73,125 tok/s · 多请求批处理估算 硬件出厂价 **¥1,603,392–¥3,674,440**按1台8卡整机计价云端时租(实时)×8张：¥400.0–¥400.0/时（2026-11-01） 硬件市场价 **¥3,000,000–¥3,500,000**按1台8卡整机计价报价日期 2026-06 适用场景 机构级大规模在线推理与训练 ## H200 141GB 141GB · 4,800GB/s带宽 · 顶级出口管制卡（对华渠道多变） 建议精度 **INT8量化** 所需卡数 **8张** 预估解码速度 **2,400 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 4,080 tok/s**输入 32,142 tok/s · 多请求批处理估算 硬件出厂价 **¥1,870,624–¥3,340,400**按1台8卡整机计价云端时租(实时)×8张：¥269.6–¥269.6/时（2026-11-01） 硬件市场价 **¥1,500,000–¥1,560,000**按1台8卡整机计价报价日期 2026-01（较旧） 适用场景 企业级生产环境高并发推理 ## H100 SXM5 80GB 80GB · 3,350GB/s带宽 · 顶级出口管制卡（对华无官方渠道） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **3,350 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 5,695 tok/s**输入 32,142 tok/s · 多请求批处理估算 硬件出厂价 **¥1,603,392–¥5,558,424**按1台8卡整机计价云端时租(实时)×8张：¥103.2–¥213.6/时（2026-11-01） 硬件市场价 **¥2,144,000**按1台8卡整机计价报价日期 2026-10-26 适用场景 企业级生产环境高并发推理/训练 ## H800 SXM 80GB 80GB · 3,350GB/s带宽 · 顶级出口管制卡（已停供） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **3,350 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 5,695 tok/s**输入 32,142 tok/s · 多请求批处理估算 硬件出厂价 **¥1,960,000–¥2,080,000**按1台8卡整机计价 硬件市场价 **¥2,700,000–¥2,800,000**按1台8卡整机计价报价日期 2024-04（较旧） 适用场景 企业级生产部署（原对华合规型号，现已停供） ## H20 96GB 96GB · 4,000GB/s带宽 · 出口合规特供卡（算力大幅阉割） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **4,000 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 6,800 tok/s**输入 4,810 tok/s · 多请求批处理估算 硬件出厂价 **资料不足** 硬件市场价 **¥640,000–¥880,000**报价日期 2026-09-16 适用场景 出口合规环境下的次优选择，中大规模推理部署（FP16算力仅约H100的15%，但内存带宽较高，解码密集场景相对占优） ## A800 PCIe 80GB 80GB · 1,935GB/s带宽 · 合规特供卡（出口合规状态多次调整） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **1,935 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 1,974 tok/s**输入 6,084 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥800,000–¥832,000** 硬件市场价 **¥1,160,000**报价日期 2026-10-08 适用场景 出口合规环境下的中等规模推理/训练部署 ## 昇腾910C 128GB 128GB · 3,200GB/s带宽 · 华为双芯片数据中心卡（国产） 建议精度 **INT8量化** 所需卡数 **8张** 预估解码速度 **1,600 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 2,720 tok/s**输入 24,440 tok/s · 多请求批处理估算 硬件出厂价 **资料不足** 硬件市场价 **¥640,000–¥1,600,000**报价日期 2026-08-27 适用场景 国产化大模型训练与推理集群，CloudMatrix 等超节点方案 ## 昇腾910B 64GB 64GB · 400GB/s带宽 · 国产替代（不受美国出口管制） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **400 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 680 tok/s**输入 10,400 tok/s · 多请求批处理估算 硬件出厂价 **资料不足** 硬件市场价 **¥880,000–¥960,000**报价日期 2026-09-16 适用场景 国产替代，不受美国出口管制，中大规模推理/训练部署，内存带宽明显低于同显存量级NVIDIA卡 ## RTX PRO 6000 Blackwell 96GB 96GB · 1,792GB/s带宽 · 专业工作站/服务器卡（对华版为 6000D 84GB） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **1,792 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 1,828 tok/s**输入 9,750 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥856,976**云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01） 硬件市场价 **资料不足** 适用场景 单卡大显存推理、中型 MoE 模型本地部署、私有化一体机 ## RTX PRO 5500 Blackwell 84GB 84GB · 1,398GB/s带宽 · 专业工作站卡（规格为 NVIDIA 初步数据） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **8张** 预估解码速度 **1,398 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 1,426 tok/s**输入 8,814 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥609,288** 硬件市场价 **¥680,000–¥720,000**报价日期 2026-10-21 适用场景 工作站大显存推理、部门级私有化部署 ## RTX PRO 5000 Blackwell 48GB 48GB · 1,344GB/s带宽 · 专业工作站卡 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **16张（超单机，需多节点）** 预估解码速度 **2,688 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 2,742 tok/s**输入 10,062 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **资料不足**云端时租(实时)×16张：¥68.8–¥110.4/时（2026-11-01） 硬件市场价 **¥864,000**报价日期 2026-10-14 适用场景 中小模型推理、开发测试、单机多卡私有化 ## L40S 48GB 48GB · 864GB/s带宽 · 合规推理卡 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **16张（超单机，需多节点）** 预估解码速度 **1,728 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 1,763 tok/s**输入 14,118 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥720,000–¥1,040,000**云端时租(实时)×16张：¥44.8–¥97.6/时（2026-11-01） 硬件市场价 **¥720,000–¥1,040,000**报价日期 2026-09-16 适用场景 中小团队自建推理服务，中低并发 ## L20 48GB 48GB · 864GB/s带宽 · 合规推理卡 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **16张（超单机，需多节点）** 预估解码速度 **1,728 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 1,763 tok/s**输入 4,660 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥373,552–¥375,696** 硬件市场价 **¥400,000–¥560,000**报价日期 2026-09-29 适用场景 中小团队自建推理服务，中低并发 ## RTX 5090 32GB 32GB · 1,792GB/s带宽 · 消费级旗舰（对华不售，国内为 5090D） 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **16张（超单机，需多节点）** 预估解码速度 **3,584 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 3,656 tok/s**输入 16,341 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **资料不足**云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01） 硬件市场价 **¥800,000–¥880,000**报价日期 2026-10-25 适用场景 个人/小团队本地推理与开发，多卡拼显存跑量化 MoE ## RTX 5090D 24GB 24GB · 1,344GB/s带宽 · 消费级/小规模自建 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **32张（超单机，需多节点）** 预估解码速度 **5,376 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 5,484 tok/s**输入 23,166 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥527,968**云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01） 硬件市场价 **¥896,000–¥1,280,000**报价日期 2026-10-18 适用场景 个人开发/小规模验证/POC，不建议生产级高并发 ## RTX 4090D 24GB 24GB · 1,008GB/s带宽 · 消费级/小规模自建 建议精度 **INT4量化(AWQ/GPTQ)** 所需卡数 **32张（超单机，需多节点）** 预估解码速度 **4,032 tok/s**单流理论上限 · 原厂API实测 175 tok/s 预估并发吞吐 **输出 4,113 tok/s**输入 22,932 tok/s · 多请求批处理估算 · PCIe 多卡打折 硬件出厂价 **¥415,968–¥607,968**云端时租(实时)×32张：¥67.2–¥92.8/时（2026-11-01） 硬件市场价 **¥832,000–¥960,000**报价日期 2026-09-16 适用场景 个人开发/小规模验证/POC，不建议生产级高并发 FAQ ## 常见问题 **预估解码速度是怎么算的?** 预估解码速度 = (显存带宽 × 卡数) ÷ (激活参数 × 精度字节数),是内存带宽瓶颈下单条请求吞吐量的理论上限(roofline 模型),按卡数线性放大,未计入多卡通信开销、批处理并发和框架损耗,实际压测通常明显低于此值。 **消费级显卡的速度数字可信吗?** 线性放大对带 NVLink/NVSwitch 的数据中心卡(H/B 系列)相对合理;对常见 PCIe 互联、无 NVLink 的消费级卡(RTX 5090D/4090D 等)明显过于乐观,多卡张量并行会因通信大打折扣。所以「卡数一样、速度不输数据中心卡」是理论上限的假象,仅用于数量级横向比较,不是性能承诺。 **「建议精度」是怎么选的?** 按单机常见的 8 张卡以内容纳的最高精度自动选择,超过即标注「需多节点」。实际大规模生产部署也常用更多卡换取更高并发,而不是单纯追求最高精度。 **价格从哪来?** 硬件出厂价/市场价按所需卡数折算总额,取自公开报道、每周自动检索更新;「云端时租(实时)」取自 vast.ai 公开市场 API,每日刷新,是国际云端市场时租价 × 卡数,不代表中国大陆整卡采购价。完整硬件明细见 [大模型本地部署测算总览](https://www.tandiu.cn/local-deploy) 底部硬件对照表。