AI MARKET DATA

开源模型部署测算

开源模型自部署所需显存、GPU 配置与速度估算，对照原厂 Token 报价与 API 实测速度。

数据更新时间：2026-11-01

排序热度 = Hugging Face 官方仓库近30天下载（2026-11-01）

智谱 GLM5个模型 · 近30天下载 1188.6万 · 最新 2026-08-25

GLM-5.3-Flash

总参数321B · 激活18B · mit

热度: 636.1万HF近30天下载 · 点赞 3,000
发布: 2026-08-25HF仓库创建日期
公开评测: AA 28.0 · LiveBench 65.8 · Epoch ECI 153.2
原厂 API: ¥1.00 / ¥3.33输入/输出每百万Token · 实测输出 69 tok/s
FP16 显存: 约771GBINT4 约193GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约771GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化: 约386GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约193GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

GLM-5.3

总参数753B · 激活40B 估算 · MIT License

热度: 253.3万HF近30天下载 · 点赞 2,356
发布: 2026-08-25HF仓库创建日期
公开评测: AA 32.0 · LiveBench — · Epoch ECI 156.2
原厂 API: ¥9.33 / ¥29.32输入/输出每百万Token · 实测输出 76 tok/s
FP16 显存: 约1,808GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,808GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化: 约904GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

GLM-5

总参数754B · 激活40B · mit

热度: 168.2万HF近30天下载 · 点赞 2,142
发布: 2026-02-11HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 145.8
原厂 API: ¥6.66 / ¥21.32输入/输出每百万Token
FP16 显存: 约1,809GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,809GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化: 约905GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

GLM-5.1

总参数754B · 激活40B · MIT License

热度: 104.0万HF近30天下载 · 点赞 1,852
发布: 2026-04-03HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 149.9
原厂 API: ¥9.33 / ¥29.32输入/输出每百万Token
FP16 显存: 约1,809GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,809GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化: 约905GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

GLM-5.2

总参数753B · 激活39B · MIT License

热度: 27.0万HF近30天下载 · 点赞 5,196
发布: 2026-06-16HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 152.1
原厂 API: ¥9.33 / ¥29.32输入/输出每百万Token
FP16 显存: 约1,808GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,808GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥220.4–¥273.6/时（2026-11-01）
INT8量化: 约904GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

阿里通义千问3个模型 · 近30天下载 1177.0万 · 最新 2026-08-24

Qwen3.8 27B

总参数28B · 激活28B · apache-2.0

热度: 758.1万HF近30天下载 · 点赞 18,862
发布: 2026-08-05HF仓库创建日期
公开评测: AA 20.0 · LiveBench 60.5 · Epoch ECI —
原厂 API: ¥3.33 / ¥19.99输入/输出每百万Token · 实测输出 38 tok/s
FP16 显存: 约67GBINT4 约17GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约67GB显存
L20 48GB×2出厂价 ¥46,694–¥46,962市场价 ¥50,000–¥70,000
昇腾910B 64GB×2出厂价资料不足市场价 ¥220,000–¥240,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
RTX 5090 32GB×4出厂价资料不足市场价 ¥200,000–¥220,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
RTX 5090D 24GB×4出厂价 ¥65,996市场价 ¥112,000–¥160,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
INT8量化: 约33GB显存
L20 48GB×1出厂价 ¥23,347–¥23,481市场价 ¥25,000–¥35,000
昇腾910B 64GB×1出厂价资料不足市场价 ¥110,000–¥120,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
RTX 5090 32GB×2出厂价资料不足市场价 ¥100,000–¥110,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
RTX 5090D 24GB×2出厂价 ¥32,998市场价 ¥56,000–¥80,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约17GB显存
L20 48GB×1出厂价 ¥23,347–¥23,481市场价 ¥25,000–¥35,000
昇腾910B 64GB×1出厂价资料不足市场价 ¥110,000–¥120,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
RTX 5090 32GB×1出厂价资料不足市场价 ¥50,000–¥55,000云端时租(实时)：¥2.9–¥3.6/时（2026-11-01）
RTX 5090D 24GB×1出厂价 ¥16,499市场价 ¥28,000–¥40,000云端时租(实时)：¥2.9–¥3.6/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Qwen3.8-Flash-Next

总参数180B · 激活6B · other

热度: 416.3万HF近30天下载 · 点赞 6,672
发布: 2026-08-24HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约432GBINT4 约108GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约432GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT8量化: 约216GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约108GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
昇腾910B 64GB×2出厂价资料不足市场价 ¥220,000–¥240,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
RTX 5090 32GB×4出厂价资料不足市场价 ¥200,000–¥220,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Qwen3.8 2.4T A95B

总参数2,446B · 激活95B · Qwen自定义开源许可协议（HF标注license:other，非标准OSI协议，使用前需查阅具体条款）

热度: 2.6万HF近30天下载 · 点赞 1,349
发布: 2026-08-08HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: ¥13.33 / ¥39.98输入/输出每百万Token
FP16 显存: 约5,871GBINT4 约1,468GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约5,871GB显存
L20 48GB×123出厂价 ¥2,871,681–¥2,888,163市场价 ¥3,075,000–¥4,305,000
昇腾910B 64GB×92出厂价资料不足市场价 ¥10,120,000–¥11,040,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价资料不足云端时租(实时)×64张：¥544.0–¥966.4/时（2026-11-01）
RTX 5090 32GB×184出厂价资料不足市场价 ¥9,200,000–¥10,120,000云端时租(实时)×184张：¥533.6–¥662.4/时（2026-11-01）
RTX 5090D 24GB×245出厂价 ¥4,042,255市场价 ¥6,860,000–¥9,800,000云端时租(实时)×245张：¥710.5–¥882.0/时（2026-11-01）
INT8量化: 约2,935GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×92出厂价资料不足市场价 ¥4,600,000–¥5,060,000云端时租(实时)×92张：¥266.8–¥331.2/时（2026-11-01）
RTX 5090D 24GB×123出厂价 ¥2,029,377市场价 ¥3,444,000–¥4,920,000云端时租(实时)×123张：¥356.7–¥442.8/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约1,468GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

DeepSeek2个模型 · 近30天下载 244.0万 · 最新 2026-09-10

DeepSeek V4.1 Flash

总参数763B · 激活16B · MIT

热度: 207.1万HF近30天下载 · 点赞 4,823
发布: 2026-09-10HF仓库创建日期
公开评测: AA 32.0 · LiveBench 75.8 · Epoch ECI 158.8
原厂 API: ¥2.00 / ¥8.00输入/输出每百万Token · 实测输出 175 tok/s
FP16 显存: 约1,832GBINT4 约458GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,832GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×77出厂价 ¥1,270,423市场价 ¥2,156,000–¥3,080,000云端时租(实时)×77张：¥223.3–¥277.2/时（2026-11-01）
INT8量化: 约916GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约458GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

DeepSeek V4 Pro

总参数1,599B · 激活49B · DeepSeek 开源许可协议

热度: 36.9万HF近30天下载 · 点赞 5,688
发布: 2026-04-22HF仓库创建日期
公开评测: AA 23.0 · LiveBench — · Epoch ECI 155.9
原厂 API: ¥8.80 / ¥26.39输入/输出每百万Token · 实测输出 81 tok/s
FP16 显存: 约3,837GBINT4 约959GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约3,837GB显存
L20 48GB×80出厂价 ¥1,867,760–¥1,878,480市场价 ¥2,000,000–¥2,800,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价资料不足云端时租(实时)×64张：¥544.0–¥966.4/时（2026-11-01）
RTX 5090 32GB×120出厂价资料不足市场价 ¥6,000,000–¥6,600,000云端时租(实时)×120张：¥348.0–¥432.0/时（2026-11-01）
RTX 5090D 24GB×160出厂价 ¥2,639,840市场价 ¥4,480,000–¥6,400,000云端时租(实时)×160张：¥464.0–¥576.0/时（2026-11-01）
INT8量化: 约1,919GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×80出厂价 ¥1,319,920市场价 ¥2,240,000–¥3,200,000云端时租(实时)×80张：¥232.0–¥288.0/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约959GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

月之暗面 Kimi4个模型 · 近30天下载 163.4万 · 最新 2026-06-13

Kimi K3

总参数2,780B · 激活104B · Modified MIT License

热度: 86.6万HF近30天下载 · 点赞 11,890
发布: 2026-06-13HF仓库创建日期
公开评测: AA — · LiveBench 69.5 · Epoch ECI 158.3
原厂 API: ¥19.99 / ¥99.96输入/输出每百万Token
FP16 显存: 约6,672GBINT4 约1,668GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约6,672GB显存
L20 48GB×139出厂价 ¥3,245,233–¥3,263,859市场价 ¥3,475,000–¥4,865,000
昇腾910B 64GB×105出厂价资料不足市场价 ¥11,550,000–¥12,600,000
RTX PRO 6000 96GB×70出厂价 ¥7,498,540市场价资料不足云端时租(实时)×70张：¥595.0–¥1,057.0/时（2026-11-01）
RTX 5090 32GB×209出厂价资料不足市场价 ¥10,450,000–¥11,495,000云端时租(实时)×209张：¥606.1–¥752.4/时（2026-11-01）
RTX 5090D 24GB×278出厂价 ¥4,586,722市场价 ¥7,784,000–¥11,120,000云端时租(实时)×278张：¥806.2–¥1,000.8/时（2026-11-01）
INT8量化: 约3,336GB显存
L20 48GB×70出厂价 ¥1,634,290–¥1,643,670市场价 ¥1,750,000–¥2,450,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价资料不足云端时租(实时)×64张：¥544.0–¥966.4/时（2026-11-01）
RTX 5090 32GB×105出厂价资料不足市场价 ¥5,250,000–¥5,775,000云端时租(实时)×105张：¥304.5–¥378.0/时（2026-11-01）
RTX 5090D 24GB×139出厂价 ¥2,293,361市场价 ¥3,892,000–¥5,560,000云端时租(实时)×139张：¥403.1–¥500.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约1,668GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×70出厂价 ¥1,154,930市场价 ¥1,960,000–¥2,800,000云端时租(实时)×70张：¥203.0–¥252.0/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Kimi K2.5

总参数1,027B · 激活32B · 开源权重许可

热度: 41.5万HF近30天下载 · 点赞 2,898
发布: 2026-01-01HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 148.1
原厂 API: ¥4.00 / ¥19.99输入/输出每百万Token
FP16 显存: 约2,465GBINT4 约616GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约2,465GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×78出厂价资料不足市场价 ¥3,900,000–¥4,290,000云端时租(实时)×78张：¥226.2–¥280.8/时（2026-11-01）
RTX 5090D 24GB×103出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥298.7–¥370.8/时（2026-11-01）
INT8量化: 约1,232GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约616GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Kimi K2.6

总参数1,027B · 激活32B · Modified MIT License

热度: 26.5万HF近30天下载 · 点赞 1,640
发布: 2026-04-14HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 151.1
原厂 API: ¥6.33 / ¥26.65输入/输出每百万Token
FP16 显存: 约2,465GBINT4 约616GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约2,465GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×78出厂价资料不足市场价 ¥3,900,000–¥4,290,000云端时租(实时)×78张：¥226.2–¥280.8/时（2026-11-01）
RTX 5090D 24GB×103出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥298.7–¥370.8/时（2026-11-01）
INT8量化: 约1,232GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约616GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Kimi K2.7 Code

总参数1,027B · 激活32B · Modified MIT License

热度: 8.9万HF近30天下载 · 点赞 1,427
发布: 2026-06-11HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 150.2
原厂 API: ¥6.33 / ¥26.65输入/输出每百万Token
FP16 显存: 约2,465GBINT4 约616GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约2,465GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥1,600,000–¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价资料不足云端时租(实时)×32张：¥272.0–¥483.2/时（2026-11-01）
RTX 5090 32GB×78出厂价资料不足市场价 ¥3,900,000–¥4,290,000云端时租(实时)×78张：¥226.2–¥280.8/时（2026-11-01）
RTX 5090D 24GB×103出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥298.7–¥370.8/时（2026-11-01）
INT8量化: 约1,232GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约616GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

MiniMax2个模型 · 近30天下载 22.0万 · 最新 2026-10-17

MiniMax M3

总参数427B · 激活23B · MIT License

热度: 19.9万HF近30天下载 · 点赞 1,600
发布: 2026-06-02HF仓库创建日期
公开评测: AA 19.0 · LiveBench — · Epoch ECI 146.9
原厂 API: ¥2.00 / ¥8.00输入/输出每百万Token · 实测输出 106 tok/s
FP16 显存: 约1,025GBINT4 约256GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,025GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化: 约512GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约256GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

MiniMax M3.1 Flash

总参数220B · 激活23B · other

热度: 2.1万HF近30天下载 · 点赞 517
发布: 2026-10-17HF仓库创建日期
公开评测: AA 29.0 · LiveBench 70.6 · Epoch ECI —
原厂 API: ¥1.00 / ¥4.00输入/输出每百万Token · 实测输出 119 tok/s
FP16 显存: 约529GBINT4 约132GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约529GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT8量化: 约265GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约132GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

腾讯混元1个模型 · 近30天下载 6.5万 · 最新 2025-06-25

混元 A13B

总参数80B · 激活13B · 腾讯混元开源许可协议

热度: 6.5万HF近30天下载 · 点赞 795
发布: 2025-06-25HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: ¥0.50 / ¥2.00输入/输出每百万Token
FP16 显存: 约192GBINT4 约48GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约192GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
INT8量化: 约96GB显存
L20 48GB×2出厂价 ¥46,694–¥46,962市场价 ¥50,000–¥70,000
昇腾910B 64GB×2出厂价资料不足市场价 ¥220,000–¥240,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
RTX 5090 32GB×4出厂价资料不足市场价 ¥200,000–¥220,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
RTX 5090D 24GB×4出厂价 ¥65,996市场价 ¥112,000–¥160,000云端时租(实时)×4张：¥11.6–¥14.4/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约48GB显存
L20 48GB×1出厂价 ¥23,347–¥23,481市场价 ¥25,000–¥35,000
昇腾910B 64GB×1出厂价资料不足市场价 ¥110,000–¥120,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价资料不足云端时租(实时)：¥8.5–¥15.1/时（2026-11-01）
RTX 5090 32GB×2出厂价资料不足市场价 ¥100,000–¥110,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）
RTX 5090D 24GB×2出厂价 ¥32,998市场价 ¥56,000–¥80,000云端时租(实时)×2张：¥5.8–¥7.2/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

IFM(MBZUAI)1个模型 · 近30天下载 1.6万 · 最新 2026-09-01

K2 Horizon 375B A23B

总参数379B · 激活23B · apache-2.0

热度: 1.6万HF近30天下载 · 点赞 115
发布: 2026-09-01HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约910GBINT4 约228GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约910GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化: 约455GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约228GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

阶跃星辰1个模型 · 近30天下载 5,062 · 最新 2026-09-20

Step 5 Preview

总参数604B · 激活27B · other

热度: 5,062HF近30天下载 · 点赞 137
发布: 2026-09-20HF仓库创建日期
公开评测: AA 29.0 · LiveBench 61.0 · Epoch ECI —
原厂 API: ¥7.00 / ¥20.00输入/输出每百万Token · 实测输出 165 tok/s
FP16 显存: 约1,450GBINT4 约363GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,450GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×64出厂价资料不足市场价 ¥3,200,000–¥3,520,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化: 约725GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约363GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Motif Technologies1个模型 · 近30天下载 2,520 · 最新 2026-08-07

Motif 3

总参数315B · 激活13B · mit

热度: 2,520HF近30天下载 · 点赞 154
发布: 2026-08-07HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约756GBINT4 约189GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约756GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT8量化: 约378GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约189GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥100,000–¥140,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价资料不足云端时租(实时)×2张：¥17.0–¥30.2/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

Nex AGI1个模型 · 近30天下载 921 · 最新 2026-06-03

Nex-N2-Pro

总参数397B · 激活18B 估算 · apache-2.0

热度: 921HF近30天下载 · 点赞 375
发布: 2026-06-03HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约952GBINT4 约238GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约952GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥800,000–¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价资料不足云端时租(实时)×16张：¥136.0–¥241.6/时（2026-11-01）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,600,000–¥1,760,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥185.6–¥230.4/时（2026-11-01）
INT8量化: 约476GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥400,000–¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价资料不足云端时租(实时)×8张：¥68.0–¥120.8/时（2026-11-01）
RTX 5090 32GB×16出厂价资料不足市场价 ¥800,000–¥880,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥92.8–¥115.2/时（2026-11-01）
INT4量化(AWQ/GPTQ): 约238GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥200,000–¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价资料不足云端时租(实时)×4张：¥34.0–¥60.4/时（2026-11-01）
RTX 5090 32GB×8出厂价资料不足市场价 ¥400,000–¥440,000云端时租(实时)×8张：¥23.2–¥28.8/时（2026-11-01）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥46.4–¥57.6/时（2026-11-01）

18款硬件完整配置 → 官方仓库 →

INFERENCE ENGINES

开源推理引擎对照自部署时用什么软件跑模型 · 来源各引擎官方仓库/文档,核实于 2026-10-24

引擎	出品方	支持模型	硬件	在线服务	协议	特点
vLLM	社区(UC Berkeley 起源)	主流开源模型广覆盖	NVIDIA / AMD / TPU / Intel 等;昇腾经 vllm-ascend 插件	支持(OpenAI 兼容接口)	Apache-2.0	PagedAttention;事实标准,新模型通常首日适配
SGLang	社区(LMSYS 起源)	主流开源模型广覆盖	NVIDIA / AMD / 昇腾 / TPU 等	支持(OpenAI 兼容接口)	Apache-2.0	RadixAttention 前缀缓存;大规模 MoE 部署常用
TensorRT-LLM	NVIDIA	主流开源模型(需按官方支持列表)	仅 NVIDIA	支持(trtllm-serve / Triton)	Apache-2.0	NVIDIA 官方优化,新架构 GPU 特性跟进最快
MindIE	华为	主流开源模型(按昇腾适配列表)	仅昇腾	支持(MindIE Service)	华为软件许可	昇腾官方推理套件,国产算力部署主路线
llama.cpp	社区	GGUF 格式量化模型	CPU / NVIDIA / AMD / Apple 等,消费级为主	支持(llama-server,单机轻量)	MIT	低比特量化,个人电脑/单卡跑得动;Ollama 等基于它
DeepInfer开源于 2026-10-20	DeepSeek	仅 DeepSeek V4.1 Flash	NVIDIA SM100(B200/B300)/ 昇腾 950	否(本次开源仅离线推理)	Apache-2.0	DeepSeek 自家线上服务所用框架;未含 KV 缓存系统、预填充/解码分离、负载均衡

GPU 价格

18款 GPU 的出厂价、市场价（SXM 卡按 8 卡整机）与云端时租，见算力 · GPU 价格与云端时租 →

企业规模测算

按 10–10000 人企业的岗位构成，对比 API 与公有云 / 私有云 / 本地自部署的月成本，见按企业规模测算 API vs 自部署 →

FAQ

常见问题

显存需求是怎么算的?

显存 = 总参数(B) × 每参数字节数 × 1.2 运行时余量系数,只覆盖模型权重本身,不含并发请求和长上下文 KV Cache。实际部署建议再预留 20%–30% 余量,并做真实压测。

卡数怎么换算?

按 L20 48GB/昇腾910B 64GB/RTX PRO 6000 96GB/RTX 5090 32GB/RTX 5090D 24GB 几种参考卡换算,仅为示例组合;实际可替换为 H100/H800/A100/A800 等同显存量级的硬件,价格见下方硬件表。

MoE 模型的「激活参数」有什么用?

激活参数只决定推理算力(FLOPs)与速度,不减少权重显存占用,所以测算按总参数计算。标注「估算」的激活参数是官方未公布时按同系列已发布型号推算的,不是官方数字。

GPU 出厂价和市场价从哪来?

B300/B200/H200/H100/H800 等 SXM 卡按行业惯例以 HGX 8卡整机为报价单位,表中同时给出折合单卡价,部署测算按整台计价。价格取自公开报道,每周自动联网检索更新:报价数字与日期必须在来源原文中出现才采纳,无更新报道时保留原报价及日期。波动大、口径不一,仅供数量级参考,不构成报价承诺。

更多问题 (1)

「云端时租(实时)」是什么价?

取自 vast.ai 公开市场 API,每日刷新,是国际云端 GPU 市场的真实时租价,不代表中国大陆整卡采购价,仅供横向趋势参考。本站不做硬件销售或转售,请以实际询价与压测结果为准。