<!-- Markdown version for AI agents. Canonical HTML: https://www.tandiu.cn/local-deploy . Data is updated daily; see https://www.tandiu.cn/llms.txt -->
AI MARKET DATA

# 开源模型部署测算

开源模型自部署所需显存、GPU 配置与速度估算，对照原厂 Token 报价与 API 实测速度。
数据更新时间：2026-11-01
排序热度 = Hugging Face 官方仓库近30天下载（2026-11-01）

智谱 GLM**5个模型 · 近30天下载 1188.6万 · 最新 2026-08-25**

## [GLM-5.3-Flash](https://www.tandiu.cn/local-deploy-zai-glm-5-3-flash)

总参数321B · 激活18B · mit

热度
**636.1万**HF近30天下载 · 点赞 3,000
发布
**2026-08-25**HF仓库创建日期
公开评测
**AA 28.0 · LiveBench 65.8 · Epoch ECI 153.2**
原厂 API
**¥1.00 / ¥3.33**输入/输出 每百万Token · 实测输出 69 tok/s
FP16 显存
**约771GB**INT4 约193GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约771GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化
**约386GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约193GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-zai-glm-5-3-flash) [官方仓库 →](https://huggingface.co/zai-org/GLM-5.3-Flash)

## [GLM-5.3](https://www.tandiu.cn/local-deploy-zai-glm-5-3)

总参数753B · 激活40B 估算 · MIT License

热度
**253.3万**HF近30天下载 · 点赞 2,356
发布
**2026-08-25**HF仓库创建日期
公开评测
**AA 32.0 · LiveBench — · Epoch ECI 156.2**
原厂 API
**¥9.33 / ¥29.32**输入/输出 每百万Token · 实测输出 76 tok/s
FP16 显存
**约1,808GB**INT4 约452GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,808GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×76**出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化
**约904GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约452GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-zai-glm-5-3) [官方仓库 →](https://huggingface.co/zai-org/GLM-5.3)

## [GLM-5](https://www.tandiu.cn/local-deploy-zai-glm-5)

总参数754B · 激活40B · mit

热度
**168.2万**HF近30天下载 · 点赞 2,142
发布
**2026-02-11**HF仓库创建日期
公开评测
**AA — · LiveBench — · Epoch ECI 145.8**
原厂 API
**¥6.66 / ¥21.32**输入/输出 每百万Token
FP16 显存
**约1,809GB**INT4 约452GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,809GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×76**出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化
**约905GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约452GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-zai-glm-5) [官方仓库 →](https://huggingface.co/zai-org/GLM-5)

## [GLM-5.1](https://www.tandiu.cn/local-deploy-zai-glm-5-1)

总参数754B · 激活40B · MIT License

热度
**104.0万**HF近30天下载 · 点赞 1,852
发布
**2026-04-03**HF仓库创建日期
公开评测
**AA — · LiveBench — · Epoch ECI 149.9**
原厂 API
**¥9.33 / ¥29.32**输入/输出 每百万Token
FP16 显存
**约1,809GB**INT4 约452GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,809GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×76**出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化
**约905GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约452GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-zai-glm-5-1) [官方仓库 →](https://huggingface.co/zai-org/GLM-5.1)

## [GLM-5.2](https://www.tandiu.cn/local-deploy-zai-glm-5-2)

总参数753B · 激活39B · MIT License

热度
**27.0万**HF近30天下载 · 点赞 5,196
发布
**2026-06-16**HF仓库创建日期
公开评测
**AA — · LiveBench — · Epoch ECI 152.1**
原厂 API
**¥9.33 / ¥29.32**输入/输出 每百万Token
FP16 显存
**约1,808GB**INT4 约452GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,808GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×76**出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化
**约904GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约452GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-zai-glm-5-2) [官方仓库 →](https://huggingface.co/zai-org/GLM-5.2)

阿里 通义千问**3个模型 · 近30天下载 1177.0万 · 最新 2026-08-24**

## [Qwen3.8 27B](https://www.tandiu.cn/local-deploy-dashscope-qwen3-8-27b)

总参数28B · 激活28B · apache-2.0

热度
**758.1万**HF近30天下载 · 点赞 18,862
发布
**2026-08-05**HF仓库创建日期
公开评测
**AA 20.0 · LiveBench 60.5 · Epoch ECI —**
原厂 API
**¥3.33 / ¥19.99**输入/输出 每百万Token · 实测输出 38 tok/s
FP16 显存
**约67GB**INT4 约17GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约67GB显存L20 48GB×2**出厂价 ¥46,694–¥46,962市场价 ¥50,000–¥70,000
**昇腾910B 64GB×2**出厂价资料不足市场价 ¥220,000–¥240,000
**RTX PRO 6000 96GB×1**出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
**RTX 5090 32GB×4**出厂价资料不足市场价 ¥200,000–¥220,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
**RTX 5090D 24GB×4**出厂价 ¥65,996市场价 ¥112,000–¥160,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
INT8量化
**约33GB显存L20 48GB×1**出厂价 ¥23,347–¥23,481市场价 ¥25,000–¥35,000
**昇腾910B 64GB×1**出厂价资料不足市场价 ¥110,000–¥120,000
**RTX PRO 6000 96GB×1**出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
**RTX 5090 32GB×2**出厂价资料不足市场价 ¥100,000–¥110,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
**RTX 5090D 24GB×2**出厂价 ¥32,998市场价 ¥56,000–¥80,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约17GB显存L20 48GB×1**出厂价 ¥23,347–¥23,481市场价 ¥25,000–¥35,000
**昇腾910B 64GB×1**出厂价资料不足市场价 ¥110,000–¥120,000
**RTX PRO 6000 96GB×1**出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
**RTX 5090 32GB×1**出厂价资料不足市场价 ¥50,000–¥55,000云端时租(实时)：¥2.9–¥3.6/时（2026-11-01）
**RTX 5090D 24GB×1**出厂价 ¥16,499市场价 ¥28,000–¥40,000云端时租(实时)：¥2.9–¥3.6/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-dashscope-qwen3-8-27b) [官方仓库 →](https://huggingface.co/Qwen/Qwen3.8-27B)

## [Qwen3.8-Flash-Next](https://www.tandiu.cn/local-deploy-hf-qwen-qwen3-8-flash-next)

总参数180B · 激活6B · other

热度
**416.3万**HF近30天下载 · 点赞 6,672
发布
**2026-08-24**HF仓库创建日期
公开评测
**暂无公开评测数据**
原厂 API
**—**输入/输出 每百万Token
FP16 显存
**约432GB**INT4 约108GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约432GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT8量化
**约216GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约108GB显存L20 48GB×4**出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
**昇腾910B 64GB×2**出厂价资料不足市场价 ¥220,000–¥240,000
**RTX PRO 6000 96GB×2**出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
**RTX 5090 32GB×4**出厂价资料不足市场价 ¥200,000–¥220,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
**RTX 5090D 24GB×8**出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-hf-qwen-qwen3-8-flash-next) [官方仓库 →](https://huggingface.co/Qwen/Qwen3.8-Flash-Next)

## [Qwen3.8 2.4T A95B](https://www.tandiu.cn/local-deploy-dashscope-qwen3-8-2-4t-a95b)

总参数2,446B · 激活95B · Qwen自定义开源许可协议（HF标注license:other，非标准OSI协议，使用前需查阅具体条款）

热度
**2.6万**HF近30天下载 · 点赞 1,349
发布
**2026-08-08**HF仓库创建日期
公开评测
**暂无公开评测数据**
原厂 API
**¥13.33 / ¥39.98**输入/输出 每百万Token
FP16 显存
**约5,871GB**INT4 约1,468GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约5,871GB显存L20 48GB×123**出厂价 ¥2,871,681–¥2,888,163市场价 ¥3,075,000–¥4,305,000
**昇腾910B 64GB×92**出厂价资料不足市场价 ¥10,120,000–¥11,040,000
**RTX PRO 6000 96GB×64**出厂价 ¥6,855,808市场价资料不足云端时租(实时)×64张：¥544.0–¥966.4/时（2026-11-01）
**RTX 5090 32GB×184**出厂价资料不足市场价 ¥9,200,000–¥10,120,000云端时租(实时)×184张：¥533.6–¥662.4/时（2026-11-01）
**RTX 5090D 24GB×245**出厂价 ¥4,042,255市场价 ¥6,860,000–¥9,800,000云端时租(实时)×245张：¥710.5–¥882.0/时（2026-11-01）
INT8量化
**约2,935GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×64**出厂价资料不足市场价 ¥7,040,000–¥7,680,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×92**出厂价资料不足市场价 ¥4,600,000–¥5,060,000云端时租(实时)×92张：¥266.8–¥331.2/时（2026-11-01）
**RTX 5090D 24GB×123**出厂价 ¥2,029,377市场价 ¥3,444,000–¥4,920,000云端时租(实时)×123张：¥356.7–¥442.8/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约1,468GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-dashscope-qwen3-8-2-4t-a95b) [官方仓库 →](https://huggingface.co/Qwen/Qwen3.8-2.4T-A95B)

DeepSeek**2个模型 · 近30天下载 244.0万 · 最新 2026-09-10**

## [DeepSeek V4.1 Flash](https://www.tandiu.cn/local-deploy-deepseek-v4-flash)

总参数763B · 激活16B · MIT

热度
**207.1万**HF近30天下载 · 点赞 4,823
发布
**2026-09-10**HF仓库创建日期
公开评测
**AA 32.0 · LiveBench 75.8 · Epoch ECI 158.8**
原厂 API
**¥2.00 / ¥8.00**输入/输出 每百万Token · 实测输出 175 tok/s
FP16 显存
**约1,832GB**INT4 约458GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,832GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×77**出厂价 ¥1,270,423市场价 ¥2,156,000–¥3,080,000云端时租(实时)×77张：¥223.3–¥277.2/时（2026-11-01）
INT8量化
**约916GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约458GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-deepseek-v4-flash) [官方仓库 →](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)

## [DeepSeek V4 Pro](https://www.tandiu.cn/local-deploy-deepseek-v4-pro)

总参数1,599B · 激活49B · DeepSeek 开源许可协议

热度
**36.9万**HF近30天下载 · 点赞 5,688
发布
**2026-04-22**HF仓库创建日期
公开评测
**AA 23.0 · LiveBench — · Epoch ECI 155.9**
原厂 API
**¥8.80 / ¥26.39**输入/输出 每百万Token · 实测输出 81 tok/s
FP16 显存
**约3,837GB**INT4 约959GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约3,837GB显存L20 48GB×80**出厂价 ¥1,867,760–¥1,878,480市场价 ¥2,000,000–¥2,800,000
**昇腾910B 64GB×64**出厂价资料不足市场价 ¥7,040,000–¥7,680,000
**RTX PRO 6000 96GB×64**出厂价 ¥6,855,808市场价资料不足云端时租(实时)×64张：¥544.0–¥966.4/时（2026-11-01）
**RTX 5090 32GB×120**出厂价资料不足市场价 ¥6,000,000–¥6,600,000云端时租(实时)×120张：¥348.0–¥432.0/时（2026-11-01）
**RTX 5090D 24GB×160**出厂价 ¥2,639,840市场价 ¥4,480,000–¥6,400,000云端时租(实时)×160张：¥464.0–¥576.0/时（2026-11-01）
INT8量化
**约1,919GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×80**出厂价 ¥1,319,920市场价 ¥2,240,000–¥3,200,000云端时租(实时)×80张：¥232.0–¥288.0/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约959GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-deepseek-v4-pro) [官方仓库 →](https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro)

月之暗面 Kimi**4个模型 · 近30天下载 163.4万 · 最新 2026-06-13**

## [Kimi K3](https://www.tandiu.cn/local-deploy-moonshot-kimi-k3)

总参数2,780B · 激活104B · Modified MIT License

热度
**86.6万**HF近30天下载 · 点赞 11,890
发布
**2026-06-13**HF仓库创建日期
公开评测
**AA — · LiveBench 69.5 · Epoch ECI 158.3**
原厂 API
**¥19.99 / ¥99.96**输入/输出 每百万Token
FP16 显存
**约6,672GB**INT4 约1,668GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约6,672GB显存L20 48GB×139**出厂价 ¥3,245,233–¥3,263,859市场价 ¥3,475,000–¥4,865,000
**昇腾910B 64GB×105**出厂价资料不足市场价 ¥11,550,000–¥12,600,000
**RTX PRO 6000 96GB×70**出厂价 ¥7,498,540市场价资料不足云端时租(实时)×70张：¥595.0–¥1,057.0/时（2026-11-01）
**RTX 5090 32GB×209**出厂价资料不足市场价 ¥10,450,000–¥11,495,000云端时租(实时)×209张：¥606.1–¥752.4/时（2026-11-01）
**RTX 5090D 24GB×278**出厂价 ¥4,586,722市场价 ¥7,784,000–¥11,120,000云端时租(实时)×278张：¥806.2–¥1,000.8/时（2026-11-01）
INT8量化
**约3,336GB显存L20 48GB×70**出厂价 ¥1,634,290–¥1,643,670市场价 ¥1,750,000–¥2,450,000
**昇腾910B 64GB×64**出厂价资料不足市场价 ¥7,040,000–¥7,680,000
**RTX PRO 6000 96GB×64**出厂价 ¥6,855,808市场价资料不足云端时租(实时)×64张：¥544.0–¥966.4/时（2026-11-01）
**RTX 5090 32GB×105**出厂价资料不足市场价 ¥5,250,000–¥5,775,000云端时租(实时)×105张：¥304.5–¥378.0/时（2026-11-01）
**RTX 5090D 24GB×139**出厂价 ¥2,293,361市场价 ¥3,892,000–¥5,560,000云端时租(实时)×139张：¥403.1–¥500.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约1,668GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×70**出厂价 ¥1,154,930市场价 ¥1,960,000–¥2,800,000云端时租(实时)×70张：¥203.0–¥252.0/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-moonshot-kimi-k3) [官方仓库 →](https://huggingface.co/moonshotai/Kimi-K3)

## [Kimi K2.5](https://www.tandiu.cn/local-deploy-moonshot-kimi-k2-5)

总参数1,027B · 激活32B · 开源权重许可

热度
**41.5万**HF近30天下载 · 点赞 2,898
发布
**2026-01-01**HF仓库创建日期
公开评测
**AA — · LiveBench — · Epoch ECI 148.1**
原厂 API
**¥4.00 / ¥19.99**输入/输出 每百万Token
FP16 显存
**约2,465GB**INT4 约616GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约2,465GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×64**出厂价资料不足市场价 ¥7,040,000–¥7,680,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×78**出厂价资料不足市场价 ¥3,900,000–¥4,290,000云端时租(实时)×78张：¥226.2–¥280.8/时（2026-11-01）
**RTX 5090D 24GB×103**出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥298.7–¥370.8/时（2026-11-01）
INT8量化
**约1,232GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约616GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-moonshot-kimi-k2-5) [官方仓库 →](https://huggingface.co/moonshotai/Kimi-K2.5)

## [Kimi K2.6](https://www.tandiu.cn/local-deploy-moonshot-kimi-k2-6)

总参数1,027B · 激活32B · Modified MIT License

热度
**26.5万**HF近30天下载 · 点赞 1,640
发布
**2026-04-14**HF仓库创建日期
公开评测
**AA — · LiveBench — · Epoch ECI 151.1**
原厂 API
**¥6.33 / ¥26.65**输入/输出 每百万Token
FP16 显存
**约2,465GB**INT4 约616GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约2,465GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×64**出厂价资料不足市场价 ¥7,040,000–¥7,680,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×78**出厂价资料不足市场价 ¥3,900,000–¥4,290,000云端时租(实时)×78张：¥226.2–¥280.8/时（2026-11-01）
**RTX 5090D 24GB×103**出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥298.7–¥370.8/时（2026-11-01）
INT8量化
**约1,232GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约616GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-moonshot-kimi-k2-6) [官方仓库 →](https://huggingface.co/moonshotai/Kimi-K2.6)

## [Kimi K2.7 Code](https://www.tandiu.cn/local-deploy-moonshot-kimi-k2-7-code)

总参数1,027B · 激活32B · Modified MIT License

热度
**8.9万**HF近30天下载 · 点赞 1,427
发布
**2026-06-11**HF仓库创建日期
公开评测
**AA — · LiveBench — · Epoch ECI 150.2**
原厂 API
**¥6.33 / ¥26.65**输入/输出 每百万Token
FP16 显存
**约2,465GB**INT4 约616GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约2,465GB显存L20 48GB×64**出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
**昇腾910B 64GB×64**出厂价资料不足市场价 ¥7,040,000–¥7,680,000
**RTX PRO 6000 96GB×32**出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
**RTX 5090 32GB×78**出厂价资料不足市场价 ¥3,900,000–¥4,290,000云端时租(实时)×78张：¥226.2–¥280.8/时（2026-11-01）
**RTX 5090D 24GB×103**出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥298.7–¥370.8/时（2026-11-01）
INT8量化
**约1,232GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约616GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-moonshot-kimi-k2-7-code) [官方仓库 →](https://huggingface.co/moonshotai/Kimi-K2.7-Code)

MiniMax**2个模型 · 近30天下载 22.0万 · 最新 2026-10-17**

## [MiniMax M3](https://www.tandiu.cn/local-deploy-minimax-minimax-m3)

总参数427B · 激活23B · MIT License

热度
**19.9万**HF近30天下载 · 点赞 1,600
发布
**2026-06-02**HF仓库创建日期
公开评测
**AA 19.0 · LiveBench — · Epoch ECI 146.9**
原厂 API
**¥2.00 / ¥8.00**输入/输出 每百万Token · 实测输出 106 tok/s
FP16 显存
**约1,025GB**INT4 约256GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,025GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化
**约512GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约256GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-minimax-minimax-m3) [官方仓库 →](https://huggingface.co/MiniMaxAI/MiniMax-M3)

## [MiniMax M3.1 Flash](https://www.tandiu.cn/local-deploy-minimax-minimax-m3-1-flash)

总参数220B · 激活23B · other

热度
**2.1万**HF近30天下载 · 点赞 517
发布
**2026-10-17**HF仓库创建日期
公开评测
**AA 29.0 · LiveBench 70.6 · Epoch ECI —**
原厂 API
**¥1.00 / ¥4.00**输入/输出 每百万Token · 实测输出 119 tok/s
FP16 显存
**约529GB**INT4 约132GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约529GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT8量化
**约265GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约132GB显存L20 48GB×4**出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×2**出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×8**出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-minimax-minimax-m3-1-flash) [官方仓库 →](https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash)

腾讯混元**1个模型 · 近30天下载 6.5万 · 最新 2025-06-25**

## [混元 A13B](https://www.tandiu.cn/local-deploy-manual-hunyuan-a13b)

总参数80B · 激活13B · 腾讯混元开源许可协议

热度
**6.5万**HF近30天下载 · 点赞 795
发布
**2025-06-25**HF仓库创建日期
公开评测
**暂无公开评测数据**
原厂 API
**¥0.50 / ¥2.00**输入/输出 每百万Token
FP16 显存
**约192GB**INT4 约48GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约192GB显存L20 48GB×4**出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×2**出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×8**出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
INT8量化
**约96GB显存L20 48GB×2**出厂价 ¥46,694–¥46,962市场价 ¥50,000–¥70,000
**昇腾910B 64GB×2**出厂价资料不足市场价 ¥220,000–¥240,000
**RTX PRO 6000 96GB×1**出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
**RTX 5090 32GB×4**出厂价资料不足市场价 ¥200,000–¥220,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
**RTX 5090D 24GB×4**出厂价 ¥65,996市场价 ¥112,000–¥160,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约48GB显存L20 48GB×1**出厂价 ¥23,347–¥23,481市场价 ¥25,000–¥35,000
**昇腾910B 64GB×1**出厂价资料不足市场价 ¥110,000–¥120,000
**RTX PRO 6000 96GB×1**出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
**RTX 5090 32GB×2**出厂价资料不足市场价 ¥100,000–¥110,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
**RTX 5090D 24GB×2**出厂价 ¥32,998市场价 ¥56,000–¥80,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-manual-hunyuan-a13b) [官方仓库 →](https://github.com/Tencent-Hunyuan/Hunyuan-A13B)

IFM(MBZUAI)**1个模型 · 近30天下载 1.6万 · 最新 2026-09-01**

## [K2 Horizon 375B A23B](https://www.tandiu.cn/local-deploy-hf-ifm-k2-horizon-375b-a23b)

总参数379B · 激活23B · apache-2.0

热度
**1.6万**HF近30天下载 · 点赞 115
发布
**2026-09-01**HF仓库创建日期
公开评测
**暂无公开评测数据**
原厂 API
**—**输入/输出 每百万Token
FP16 显存
**约910GB**INT4 约228GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约910GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化
**约455GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约228GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-hf-ifm-k2-horizon-375b-a23b) [官方仓库 →](https://huggingface.co/IFM/K2-Horizon-375B-A23B)

阶跃星辰**1个模型 · 近30天下载 5,062 · 最新 2026-09-20**

## [Step 5 Preview](https://www.tandiu.cn/local-deploy-stepfun-step-5-preview)

总参数604B · 激活27B · other

热度
**5,062**HF近30天下载 · 点赞 137
发布
**2026-09-20**HF仓库创建日期
公开评测
**AA 29.0 · LiveBench 61.0 · Epoch ECI —**
原厂 API
**¥7.00 / ¥20.00**输入/输出 每百万Token · 实测输出 165 tok/s
FP16 显存
**约1,450GB**INT4 约363GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约1,450GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×32**出厂价资料不足市场价 ¥3,520,000–¥3,840,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×64**出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化
**约725GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约363GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-stepfun-step-5-preview) [官方仓库 →](https://huggingface.co/stepfun-ai/Step-5-Preview)

Motif Technologies**1个模型 · 近30天下载 2,520 · 最新 2026-08-07**

## [Motif 3](https://www.tandiu.cn/local-deploy-hf-motif-technologies-motif-3)

总参数315B · 激活13B · mit

热度
**2,520**HF近30天下载 · 点赞 154
发布
**2026-08-07**HF仓库创建日期
公开评测
**暂无公开评测数据**
原厂 API
**—**输入/输出 每百万Token
FP16 显存
**约756GB**INT4 约189GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约756GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT8量化
**约378GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约189GB显存L20 48GB×4**出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×2**出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×8**出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-hf-motif-technologies-motif-3) [官方仓库 →](https://huggingface.co/Motif-Technologies/Motif-3)

Nex AGI**1个模型 · 近30天下载 921 · 最新 2026-06-03**

## [Nex-N2-Pro](https://www.tandiu.cn/local-deploy-hf-nex-agi-nex-n2-pro)

总参数397B · 激活18B 估算 · apache-2.0

热度
**921**HF近30天下载 · 点赞 375
发布
**2026-06-03**HF仓库创建日期
公开评测
**暂无公开评测数据**
原厂 API
**—**输入/输出 每百万Token
FP16 显存
**约952GB**INT4 约238GB

**显存需求与参考配置（FP16 / INT8 / INT4）**

FP16/BF16原始精度
**约952GB显存L20 48GB×32**出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
**昇腾910B 64GB×16**出厂价资料不足市场价 ¥1,760,000–¥1,920,000
**RTX PRO 6000 96GB×16**出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
**RTX 5090 32GB×32**出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
**RTX 5090D 24GB×64**出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化
**约476GB显存L20 48GB×16**出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
**昇腾910B 64GB×8**出厂价资料不足市场价 ¥880,000–¥960,000
**RTX PRO 6000 96GB×8**出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
**RTX 5090 32GB×16**出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
**RTX 5090D 24GB×32**出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ)
**约238GB显存L20 48GB×8**出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
**昇腾910B 64GB×4**出厂价资料不足市场价 ¥440,000–¥480,000
**RTX PRO 6000 96GB×4**出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
**RTX 5090 32GB×8**出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
**RTX 5090D 24GB×16**出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
[18款硬件完整配置 →](https://www.tandiu.cn/local-deploy-hf-nex-agi-nex-n2-pro) [官方仓库 →](https://huggingface.co/nex-agi/Nex-N2-Pro)

INFERENCE ENGINES

## 开源推理引擎对照自部署时用什么软件跑模型 · 来源各引擎官方仓库/文档,核实于 2026-10-24

| 引擎 | 出品方 | 支持模型 | 硬件 | 在线服务 | 协议 | 特点 |
|---|---|---|---|---|---|---|
| vLLM | 社区(UC Berkeley 起源) | 主流开源模型广覆盖 | NVIDIA / AMD / TPU / Intel 等;昇腾经 vllm-ascend 插件 | 支持(OpenAI 兼容接口) | Apache-2.0 | PagedAttention;事实标准,新模型通常首日适配 |
| SGLang | 社区(LMSYS 起源) | 主流开源模型广覆盖 | NVIDIA / AMD / 昇腾 / TPU 等 | 支持(OpenAI 兼容接口) | Apache-2.0 | RadixAttention 前缀缓存;大规模 MoE 部署常用 |
| TensorRT-LLM | NVIDIA | 主流开源模型(需按官方支持列表) | 仅 NVIDIA | 支持(trtllm-serve / Triton) | Apache-2.0 | NVIDIA 官方优化,新架构 GPU 特性跟进最快 |
| MindIE | 华为 | 主流开源模型(按昇腾适配列表) | 仅昇腾 | 支持(MindIE Service) | 华为软件许可 | 昇腾官方推理套件,国产算力部署主路线 |
| llama.cpp | 社区 | GGUF 格式量化模型 | CPU / NVIDIA / AMD / Apple 等,消费级为主 | 支持(llama-server,单机轻量) | MIT | 低比特量化,个人电脑/单卡跑得动;Ollama 等基于它 |
| DeepInfer开源于 2026-10-20 | DeepSeek | 仅 DeepSeek V4.1 Flash | NVIDIA SM100(B200/B300)/ 昇腾 950 | 否(本次开源仅离线推理) | Apache-2.0 | DeepSeek 自家线上服务所用框架;未含 KV 缓存系统、预填充/解码分离、负载均衡 |

**GPU 价格**

18款 GPU 的出厂价、市场价（SXM 卡按 8 卡整机）与云端时租，见 [算力 · GPU 价格与云端时租 →](https://www.tandiu.cn/compute)

**企业规模测算**

按 10–10000 人企业的岗位构成，对比 API 与公有云 / 私有云 / 本地自部署的月成本，见 [按企业规模测算 API vs 自部署 →](https://www.tandiu.cn/enterprise-ai)

FAQ

## 常见问题

**显存需求是怎么算的?**

显存 = 总参数(B) × 每参数字节数 × 1.2 运行时余量系数,只覆盖模型权重本身,不含并发请求和长上下文 KV Cache。实际部署建议再预留 20%–30% 余量,并做真实压测。

**卡数怎么换算?**

按 L20 48GB/昇腾910B 64GB/RTX PRO 6000 96GB/RTX 5090 32GB/RTX 5090D 24GB 几种参考卡换算,仅为示例组合;实际可替换为 H100/H800/A100/A800 等同显存量级的硬件,价格见下方硬件表。

**MoE 模型的「激活参数」有什么用?**

激活参数只决定推理算力(FLOPs)与速度,不减少权重显存占用,所以测算按总参数计算。标注「估算」的激活参数是官方未公布时按同系列已发布型号推算的,不是官方数字。

**GPU 出厂价和市场价从哪来?**

B300/B200/H200/H100/H800 等 SXM 卡按行业惯例以 HGX 8卡整机为报价单位,表中同时给出折合单卡价,部署测算按整台计价。价格取自公开报道,每周自动联网检索更新:报价数字与日期必须在来源原文中出现才采纳,无更新报道时保留原报价及日期。波动大、口径不一,仅供数量级参考,不构成报价承诺。

**更多问题 (1)「云端时租(实时)」是什么价?**

取自 vast.ai 公开市场 API,每日刷新,是国际云端 GPU 市场的真实时租价,不代表中国大陆整卡采购价,仅供横向趋势参考。本站不做硬件销售或转售,请以实际询价与压测结果为准。