ENTERPRISE AI INFRA # 企业AI成本测算 10 / 100 / 1,000 / 10,000 人企业的 AI Infra 怎么配：按行业样本测算 Token 用量，对比直接用 API 与开源模型在 17 款 GPU 上自部署（公有云、私有云、本地）的月成本。 数据更新时间：2026-11-01 09:33 OVERVIEW ## 12 个企业样本 × 5 种方案 [岗位 Token 预算 →](https://www.tandiu.cn/token-budget) | 规模 | 企业样本 | 月 Token | API 优选 | API 开源同款 | 公有云按需 | 私有云包年 | 本地自购 | |---|---|---|---|---|---|---|---| | 10人 | AI 应用开发工作室软件/互联网 · 使用强度高 | 12亿 | 约¥2万 | 约¥2,900 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 10人 | 精品律师事务所法律服务 · 使用强度中 | 2000万 | 约¥390 | 约¥55 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 10人 | 连锁烘焙品牌总部餐饮零售 · 使用强度低 | 140万 | 约¥2 | 约¥5.3 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 100人 | 跨境电商公司电商/出海 · 使用强度高 | 11亿 | 约¥5,200 | 约¥3,800 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 100人 | 区域会计师事务所财税服务 · 使用强度中 | 1亿 | 约¥270 | 约¥310 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 100人 | 精密零部件制造厂制造业 · 使用强度低 | 2000万 | 约¥24 | 约¥64 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 1,000人 | 企业软件/云服务公司企业软件 · 使用强度高 | 710亿 | 约¥120万 | 约¥17万 | 约¥16万 | 约¥32万 | 约¥54万 | | 1,000人 | 三甲医院医疗 · 使用强度中 | 12亿 | 约¥2.4万 | 约¥3,400 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 1,000人 | 区域连锁超市零售 · 使用强度低 | 1.7亿 | 约¥250 | 约¥640 | 约¥1.1万 | 约¥2.3万 | 约¥3.4万 | | 10,000人 | 互联网科技集团互联网 · 使用强度高 | 7300亿 | 约¥1200万 | 约¥180万 | 约¥160万 | 约¥320万 | 约¥540万 | | 10,000人 | 全国性股份制银行金融 · 使用强度中 | 320亿 | 约¥51万 | 约¥8.6万 | 约¥9万 | 约¥18万 | 约¥32万 | | 10,000人 | 汽车零部件制造集团制造业 · 使用强度低 | 58亿 | 约¥7.6万 | 约¥1.6万 | 约¥2.3万 | 约¥4.6万 | 约¥7.6万 | 每月成本；绿色为该样本最省方案。自部署均为 DeepSeek V4.1 Flash，硬件取各方案下最省的一款，明细见各样本。 HARDWARE ## 17 款 GPU 跑 DeepSeek V4.1 Flash每款按一份模型副本估算；绿色为 7×24 满载时比官方 API（同比例约 ¥2.43/百万 Token）更便宜 [GPU 价格 →](https://www.tandiu.cn/compute) | GPU | 精度 × 卡数 | 估算吞吐 输出 tok/s | 副本硬件价 | 本地月成本 | ¥/百万 Token 工作时段满载 | ¥/百万 Token 7×24 满载 | ¥/百万 Token 云按需满载 | |---|---|---|---|---|---|---|---| | B200 180GB不可得 | FP8 × 8 卡 | 6,800输入 73,125 | 约¥340万市场价 | 约¥11万/月 | ¥3.2 | ¥0.95 | ¥2.6 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 × 8 卡 | 4,080输入 32,142 | 约¥170万市场价 | 约¥5.7万/月 | ¥3.4 | ¥1 | ¥3.5 | | 昇腾910C 128GB可采购 | INT8 × 8 卡 | 2,720输入 24,440 | 约¥130万市场价 | 约¥4.5万/月 | ¥3.7 | ¥1.1 | — | | H100 SXM5 80GB不可得 | INT4 × 8 卡 | 5,695输入 32,142 | 约¥230万市场价 | 约¥7.4万/月 | ¥3.9 | ¥1.2 | ¥1.8 | | RTX 5090 32GB不可得 · PCIe | INT4 × 16 卡 | 3,656输入 16,341 | 约¥96万市场价 | 约¥4.6万/月 | ¥4.5 | ¥1.3 | ¥1.1 | | H800 SXM 80GB不可得 | INT4 × 8 卡 | 5,695输入 32,142 | 约¥290万市场价 | 约¥9.1万/月 | ¥4.8 | ¥1.4 | — | | RTX 4090D 24GB可采购 · PCIe | INT4 × 32 卡 | 4,113输入 22,932 | 约¥110万市场价 | 约¥6.7万/月 | ¥4.9 | ¥1.5 | ¥1.3 | | RTX 5090D 24GB可采购 · PCIe | INT4 × 32 卡 | 5,484输入 23,166 | 约¥130万市场价 | 约¥7.6万/月 | ¥5.1 | ¥1.5 | ¥1.5 | | RTX PRO 6000 Blackwell 96GB不可得 · PCIe | INT4 × 8 卡 | 1,828输入 9,750 | 约¥92万出厂价 | 约¥3.5万/月 | ¥6.1 | ¥1.8 | ¥3.5 | | RTX PRO 5500 Blackwell 84GB未明确 · PCIe | INT4 × 8 卡 | 1,426输入 8,814 | 约¥76万市场价 | 约¥3.1万/月 | ¥6.2 | ¥1.8 | — | | B300 288GB不可得 | FP8 × 4 卡 | 3,400输入 36,562 | 约¥360万市场价 | 约¥11万/月 | ¥6.3 | ¥1.9 | ¥3.2 | | RTX PRO 5000 Blackwell 48GB未明确 · PCIe | INT4 × 16 卡 | 2,742输入 10,062 | 约¥98万市场价 | 约¥4.3万/月 | ¥6.5 | ¥1.9 | ¥2.9 | | L40S 48GB可采购 · PCIe | INT4 × 16 卡 | 1,763输入 14,118 | 约¥120万市场价 | 约¥4.9万/月 | ¥6.7 | ¥2 | ¥2.1 | | H20 96GB可采购 | INT4 × 8 卡 | 6,800输入 4,810 | 约¥91万市场价 | 约¥3.4万/月 | ¥8.8 | ¥2.6 | — | | 昇腾910B 64GB可采购 | INT4 × 8 卡 | 680输入 10,400 | 约¥110万市场价 | 约¥3.8万/月 | ¥9.5 | ¥2.8 | — | | A800 PCIe 80GB多变/需核实 · PCIe | INT4 × 8 卡 | 1,974输入 6,084 | 约¥130万市场价 | 约¥4.4万/月 | ¥11 | ¥3.2 | — | | L20 48GB可采购 · PCIe | INT4 × 16 卡 | 1,763输入 4,660 | 约¥78万市场价 | 约¥3.7万/月 | ¥11 | ¥3.4 | — | 输入:输出按本页样本整体 ≈ 13:1；吞吐为规格推算的估计值，不是实测；INT4 量化有精度损失，与 8bit 方案不完全可比；本地月成本含 36 个月折旧、电费与运维分摊；云按需时租取 vast.ai 国际市场，消费级卡大规模可租量有限。 10 PEOPLE ## 10 人企业3 个样本都是直接用 API 最省 ## AI 应用开发工作室 使用强度 高软件/互联网 · 10人 · 全员是开发者，编程 agent 是主要生产工具 月 Token 合计 **12亿**输入 11亿 · 输出 8000万 人均月 Token **1.2亿** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · DeepSeek V4.1 Flash 官方**（约¥2,900/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 3.9 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥2万/月 | 约¥2,000 | 7.0× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥2,900/月 | 约¥290 | 最省 | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥1,100 | 3.9× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥2,300 | 7.9× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥3,400 | 11.7× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（5 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 后端/全栈开发 | 4 | 重度 | 1.4亿 | GPT-6.1 SolOpenAI · AA55 | 约¥2,300/月 | | 算法/机器学习工程师 | 2 | 重度 | 2.1亿 | GPT-6.1 SolOpenAI · AA55 | 约¥3,500/月 | | 前端/移动端开发 | 2 | 重度 | 1.2亿 | GPT-6.1 SolOpenAI · AA55 | 约¥2,000/月 | | 产品经理 | 1 | 中度 | 63万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.94/月 | | 内容运营/新媒体运营 | 1 | 中度 | 91万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.7/月 | ## 精品律师事务所 使用强度 中法律服务 · 10人 · 律师用 AI 检索与起草，行政财务偶尔使用 月 Token 合计 **2000万**输入 1800万 · 输出 240万 人均月 Token **200万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · DeepSeek V4.1 Flash 官方**（约¥55/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 206.8 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥390/月 | 约¥39 | 7.1× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥55/月 | 约¥5.5 | 最省 | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥1,100 | 206.8× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥2,300 | 416.4× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥3,400 | 619.3× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（5 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 律师 | 4 | 中度 | 440万 | GPT-6.1 SolOpenAI · AA55 | 约¥85/月 | | 律师 | 2 | 轻度 | 52万 | GPT-6.1 SolOpenAI · AA55 | 约¥12/月 | | 法务/合规 | 2 | 中度 | 63万 | GPT-6.1 SolOpenAI · AA55 | 约¥14/月 | | 文员/行政 | 1 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | | 财务/会计 | 1 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | ## 连锁烘焙品牌总部 使用强度 低餐饮零售 · 10人 · 总部职能团队，AI 主要用于写方案和查资料 月 Token 合计 **140万**输入 97万 · 输出 42万 人均月 Token **14万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · 按岗位优选模型**（约¥2/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 5542.1 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥2/月 | 约¥0.2 | 最省 | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥5.3/月 | 约¥0.53 | 2.6× | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥1,100 | 5542.1× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥2,300 | 11160.6× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥3,400 | 16599.5× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（5 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 门店运营/店长 | 4 | 轻度 | 5.2万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.081/月 | | 市场/品牌营销 | 2 | 轻度 | 30万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.48/月 | | 财务/会计 | 2 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | 采购/供应链 | 1 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.23/月 | | 文员/行政 | 1 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | 100 PEOPLE ## 100 人企业3 个样本都是直接用 API 最省 ## 跨境电商公司 使用强度 高电商/出海 · 100人 · 多语言上新、内容生产与海外客服都大量依赖 AI 月 Token 合计 **11亿**输入 7.8亿 · 输出 2.8亿 人均月 Token **1100万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · DeepSeek V4.1 Flash 官方**（约¥3,800/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 3.0 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥5,200/月 | 约¥52 | 1.4× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥3,800/月 | 约¥38 | 最省 | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥110 | 3.0× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥230 | 6.0× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥340 | 9.0× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | 昇腾910B 64GB可采购 | INT4 · 16 卡 / 2 台 | 约¥7.7万/月 | — | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（10 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 电商运营 | 25 | 重度 | 1500万 | Claude Haiku 5.5Anthropic · AA36 | 约¥22/月 | | 内容运营/新媒体运营 | 15 | 重度 | 870万 | Claude Haiku 5.5Anthropic · AA36 | 约¥15/月 | | 客服/售前咨询 | 20 | 重度 | 910万 | Claude Haiku 5.5Anthropic · AA36 | 约¥9.6/月 | | 翻译/本地化 | 5 | 重度 | 2600万 | Claude Haiku 5.5Anthropic · AA36 | 约¥52/月 | | 后端/全栈开发 | 8 | 中度 | 2600万 | GPT-6.1 SolOpenAI · AA55 | 约¥480/月 | | 市场/品牌营销 | 10 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA36 | 约¥2.5/月 | | 数据分析师 | 5 | 中度 | 81万 | GPT-6.1 SolOpenAI · AA55 | 约¥19/月 | | 财务/会计 | 4 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | HR/招聘 | 3 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 文员/行政 | 5 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | ## 区域会计师事务所 使用强度 中财税服务 · 100人 · 审计与税务人员日常用 AI 核对与写底稿，少数骨干重度使用 月 Token 合计 **1亿**输入 8900万 · 输出 1600万 人均月 Token **100万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · 按岗位优选模型**（约¥270/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 41.9 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥270/月 | 约¥2.7 | 最省 | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥310/月 | 约¥3.1 | 1.1× | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥110 | 41.9× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥230 | 84.4× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥340 | 125.6× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（7 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 财务/会计 | 60 | 中度 | 33万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.41/月 | | 财务/会计 | 10 | 重度 | 750万 | Claude Haiku 5.5Anthropic · AA36 | 约¥7.6/月 | | 数据分析师 | 5 | 中度 | 81万 | GPT-6.1 SolOpenAI · AA55 | 约¥19/月 | | 法务/合规 | 5 | 中度 | 63万 | GPT-6.1 SolOpenAI · AA55 | 约¥14/月 | | 销售/客户经理 | 8 | 轻度 | 16万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.25/月 | | HR/招聘 | 4 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 文员/行政 | 8 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | ## 精密零部件制造厂 使用强度 低制造业 · 100人 · 产线员工只用规程问答，工程师用 AI 写工艺文件 月 Token 合计 **2000万**输入 1600万 · 输出 390万 人均月 Token **20万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · 按岗位优选模型**（约¥24/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 473.1 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥24/月 | 约¥0.24 | 最省 | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥64/月 | 约¥0.64 | 2.7× | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥110 | 473.1× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥230 | 952.7× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥340 | 1417.0× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（7 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 一线/产线员工 | 60 | 轻度 | 1.5万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.022/月 | | 制造/工艺工程师 | 15 | 中度 | 100万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.2/月 | | 采购/供应链 | 5 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.23/月 | | 销售/客户经理 | 6 | 轻度 | 16万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.25/月 | | 财务/会计 | 5 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | HR/招聘 | 3 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 文员/行政 | 6 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | 1,000 PEOPLE ## 1,000 人企业3 个样本中 2 个直接用 API 最省，1 个自部署更省 ## 企业软件/云服务公司 使用强度 高企业软件 · 1,000人 · 研发全面使用编程 agent，客服与销售也接入 AI 月 Token 合计 **710亿**输入 660亿 · 输出 48亿 人均月 Token **7100万** 本地自部署最省配置 **昇腾910C 128GB**96 卡 · 12 台机器 最省：**开源自部署 · 公有云按需**（约¥16万/月）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥120万/月 | 约¥1,200 | 7.5× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥17万/月 | 约¥170 | 1.1× | | 开源自部署 · 公有云按需224 张 RTX 5090 32GB（INT4，28 台机器），只在工作时段开机 | 约¥16万/月 | 约¥160 | 最省 | | 开源自部署 · 私有云包年224 张 RTX 5090 32GB（INT4，28 台机器），7×24 专属 | 约¥32万/月 | 约¥320 | 2.0× | | 开源自部署 · 本地自购96 张 昇腾910C 128GB（INT8，12 台机器），国内可采购中最省 | 约¥54万/月 | 约¥540 | 3.4× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 224 卡 / 28 台 | 约¥65万/月 | 约¥16万/月 | | RTX 4090D 24GB可采购 | INT4 · 352 卡 / 44 台 | 约¥73万/月 | 约¥19万/月 | | RTX 5090D 24GB可采购 | INT4 · 320 卡 / 40 台 | 约¥76万/月 | 约¥23万/月 | | H100 SXM5 80GB不可得 | INT4 · 64 卡 / 8 台 | 约¥59万/月 | 约¥28万/月 | | L40S 48GB可采购 | INT4 · 304 卡 / 38 台 | 约¥94万/月 | 约¥29万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 352 卡 / 44 台 | 约¥95万/月 | 约¥43万/月 | | B200 180GB不可得 | FP8 · 40 卡 / 5 台 | 约¥53万/月 | 约¥44万/月 | | B300 288GB不可得 | FP8 · 36 卡 / 5 台 | 约¥96万/月 | 约¥48万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 192 卡 / 24 台 | 约¥85万/月 | 约¥49万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 72 卡 / 9 台 | 约¥52万/月 | 约¥53万/月 | | 昇腾910C 128GB可采购 | INT8 · 96 卡 / 12 台 | 约¥54万/月 | — | | H800 SXM 80GB不可得 | INT4 · 64 卡 / 8 台 | 约¥73万/月 | — | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 224 卡 / 28 台 | 约¥87万/月 | — | | H20 96GB可采购 | INT4 · 296 卡 / 37 台 | 约¥130万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 280 卡 / 35 台 | 约¥130万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 272 卡 / 34 台 | 约¥150万/月 | — | | L20 48GB可采购 | INT4 · 704 卡 / 88 台 | 约¥160万/月 | — | **人员构成与使用度（16 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 后端/全栈开发 | 300 | 重度 | 1.4亿 | GPT-6.1 SolOpenAI · AA55 | 约¥2,300/月 | | 前端/移动端开发 | 100 | 重度 | 1.2亿 | GPT-6.1 SolOpenAI · AA55 | 约¥2,000/月 | | 算法/机器学习工程师 | 60 | 重度 | 2.1亿 | GPT-6.1 SolOpenAI · AA55 | 约¥3,500/月 | | 数据工程师 | 40 | 重度 | 8400万 | GPT-6.1 SolOpenAI · AA55 | 约¥1,400/月 | | 测试/QA工程师 | 80 | 中度 | 98万 | GPT-6.1 SolOpenAI · AA55 | 约¥22/月 | | 运维/SRE | 60 | 中度 | 610万 | GPT-6.1 SolOpenAI · AA55 | 约¥120/月 | | 安全工程师 | 20 | 中度 | 570万 | GPT-6.1 SolOpenAI · AA55 | 约¥100/月 | | 产品经理 | 70 | 中度 | 63万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.94/月 | | UI/UX 设计师 | 30 | 中度 | 91万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.3/月 | | 销售/客户经理 | 120 | 中度 | 110万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.4/月 | | 客服/售前咨询 | 60 | 重度 | 910万 | Claude Haiku 5.5Anthropic · AA36 | 约¥9.6/月 | | 市场/品牌营销 | 20 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA36 | 约¥2.5/月 | | 法务/合规 | 5 | 中度 | 63万 | GPT-6.1 SolOpenAI · AA55 | 约¥14/月 | | HR/招聘 | 15 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 财务/会计 | 12 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | 文员/行政 | 8 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | ## 三甲医院 使用强度 中医疗 · 1,000人 · 医生用 AI 写病历和查文献，护士与行政轻度使用 月 Token 合计 **12亿**输入 11亿 · 输出 1.7亿 人均月 Token **120万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · DeepSeek V4.1 Flash 官方**（约¥3,400/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 3.3 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥2.4万/月 | 约¥24 | 6.9× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥3,400/月 | 约¥3.4 | 最省 | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥11 | 3.3× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥23 | 6.6× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥34 | 9.9× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（9 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 临床医生 | 300 | 中度 | 120万 | GPT-6.1 SolOpenAI · AA55 | 约¥30/月 | | 护士 | 450 | 轻度 | 4.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.067/月 | | 科研人员 | 30 | 中度 | 720万 | GPT-6.1 SolOpenAI · AA55 | 约¥130/月 | | 后端/全栈开发 | 20 | 中度 | 2600万 | GPT-6.1 SolOpenAI · AA55 | 约¥480/月 | | 运维/SRE | 10 | 中度 | 610万 | GPT-6.1 SolOpenAI · AA55 | 约¥120/月 | | 客服/售前咨询 | 30 | 轻度 | 26万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.43/月 | | 财务/会计 | 40 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | HR/招聘 | 20 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 文员/行政 | 100 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | ## 区域连锁超市 使用强度 低零售 · 1,000人 · 门店与一线员工为主，AI 用于排班盘点问答和总部文案 月 Token 合计 **1.7亿**输入 1.2亿 · 输出 4900万 人均月 Token **17万** 本地自部署最省配置 **H20 96GB**8 卡 · 1 台机器 最省：**API · 按岗位优选模型**（约¥250/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥1.1万/月，约为最省方案的 46.0 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥250/月 | 约¥0.25 | 最省 | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥640/月 | 约¥0.64 | 2.6× | | 开源自部署 · 公有云按需16 张 RTX 5090 32GB（INT4，2 台机器），只在工作时段开机 | 约¥1.1万/月 | 约¥11 | 46.0× | | 开源自部署 · 私有云包年16 张 RTX 5090 32GB（INT4，2 台机器），7×24 专属 | 约¥2.3万/月 | 约¥23 | 92.7× | | 开源自部署 · 本地自购8 张 H20 96GB（INT4，1 台机器），国内可采购中最省 | 约¥3.4万/月 | 约¥34 | 137.8× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 16 卡 / 2 台 | 约¥4.6万/月 | 约¥1.1万/月 | | L40S 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥4.9万/月 | 约¥1.5万/月 | | RTX 4090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥6.7万/月 | 约¥1.7万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 16 卡 / 2 台 | 约¥4.3万/月 | 约¥1.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 8 卡 / 1 台 | 约¥3.5万/月 | 约¥2.1万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 8 卡 / 1 台 | 约¥3.1万/月 | — | | H20 96GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.4万/月 | — | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | L20 48GB可采购 | INT4 · 16 卡 / 2 台 | 约¥3.7万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 8 卡 / 1 台 | 约¥3.8万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 8 卡 / 1 台 | 约¥4.4万/月 | — | | 昇腾910C 128GB可采购 | INT8 · 8 卡 / 1 台 | 约¥4.5万/月 | — | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | **人员构成与使用度（8 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 一线/产线员工 | 650 | 轻度 | 1.5万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.022/月 | | 门店运营/店长 | 200 | 轻度 | 5.2万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.081/月 | | 电商运营 | 30 | 中度 | 230万 | Claude Haiku 5.5Anthropic · AA36 | 约¥3.3/月 | | 市场/品牌营销 | 20 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA36 | 约¥2.5/月 | | 采购/供应链 | 40 | 中度 | 83万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1/月 | | 客服/售前咨询 | 15 | 中度 | 70万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.2/月 | | 财务/会计 | 25 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | HR/招聘 | 20 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | 10,000 PEOPLE ## 10,000 人企业3 个样本中 2 个直接用 API 最省，1 个自部署更省 ## 互联网科技集团 使用强度 高互联网 · 10,000人 · 研发、内容与客服全线 AI 化，编程 agent 覆盖大部分工程师 月 Token 合计 **7300亿**输入 6800亿 · 输出 500亿 人均月 Token **7300万** 本地自部署最省配置 **昇腾910C 128GB**952 卡 · 119 台机器 最省：**开源自部署 · 公有云按需**（约¥160万/月）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥1200万/月 | 约¥1,200 | 7.6× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥180万/月 | 约¥180 | 1.1× | | 开源自部署 · 公有云按需2272 张 RTX 5090 32GB（INT4，284 台机器），只在工作时段开机 | 约¥160万/月 | 约¥160 | 最省 | | 开源自部署 · 私有云包年2272 张 RTX 5090 32GB（INT4，284 台机器），7×24 专属 | 约¥320万/月 | 约¥320 | 2.0× | | 开源自部署 · 本地自购952 张 昇腾910C 128GB（INT8，119 台机器），国内可采购中最省 | 约¥540万/月 | 约¥540 | 3.3× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 2272 卡 / 284 台 | 约¥660万/月 | 约¥160万/月 | | RTX 4090D 24GB可采购 | INT4 · 3424 卡 / 428 台 | 约¥710万/月 | 约¥190万/月 | | RTX 5090D 24GB可采购 | INT4 · 3168 卡 / 396 台 | 约¥750万/月 | 约¥220万/月 | | H100 SXM5 80GB不可得 | INT4 · 616 卡 / 77 台 | 约¥570万/月 | 约¥270万/月 | | L40S 48GB可采购 | INT4 · 3136 卡 / 392 台 | 约¥970万/月 | 约¥300万/月 | | B200 180GB不可得 | FP8 · 344 卡 / 43 台 | 约¥460万/月 | 约¥370万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 3520 卡 / 440 台 | 约¥950万/月 | 约¥430万/月 | | B300 288GB不可得 | FP8 · 344 卡 / 43 台 | 约¥910万/月 | 约¥460万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 688 卡 / 86 台 | 约¥490万/月 | 约¥500万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 1992 卡 / 249 台 | 约¥880万/月 | 约¥510万/月 | | 昇腾910C 128GB可采购 | INT8 · 952 卡 / 119 台 | 约¥540万/月 | — | | H800 SXM 80GB不可得 | INT4 · 616 卡 / 77 台 | 约¥700万/月 | — | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 2304 卡 / 288 台 | 约¥890万/月 | — | | H20 96GB可采购 | INT4 · 3040 卡 / 380 台 | 约¥1300万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 2856 卡 / 357 台 | 约¥1400万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 2808 卡 / 351 台 | 约¥1600万/月 | — | | L20 48GB可采购 | INT4 · 7136 卡 / 892 台 | 约¥1700万/月 | — | **人员构成与使用度（18 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 后端/全栈开发 | 2,800 | 重度 | 1.4亿 | GPT-6.1 SolOpenAI · AA55 | 约¥2,300/月 | | 前端/移动端开发 | 1,000 | 重度 | 1.2亿 | GPT-6.1 SolOpenAI · AA55 | 约¥2,000/月 | | 算法/机器学习工程师 | 800 | 重度 | 2.1亿 | GPT-6.1 SolOpenAI · AA55 | 约¥3,500/月 | | 数据工程师 | 400 | 重度 | 8400万 | GPT-6.1 SolOpenAI · AA55 | 约¥1,400/月 | | 测试/QA工程师 | 600 | 中度 | 98万 | GPT-6.1 SolOpenAI · AA55 | 约¥22/月 | | 运维/SRE | 500 | 中度 | 610万 | GPT-6.1 SolOpenAI · AA55 | 约¥120/月 | | 安全工程师 | 200 | 中度 | 570万 | GPT-6.1 SolOpenAI · AA55 | 约¥100/月 | | 产品经理 | 800 | 中度 | 63万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.94/月 | | UI/UX 设计师 | 400 | 中度 | 91万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.3/月 | | 数据分析师 | 400 | 重度 | 1800万 | GPT-6.1 SolOpenAI · AA55 | 约¥360/月 | | 市场/品牌营销 | 300 | 中度 | 160万 | Claude Haiku 5.5Anthropic · AA36 | 约¥2.5/月 | | 内容运营/新媒体运营 | 300 | 重度 | 870万 | Claude Haiku 5.5Anthropic · AA36 | 约¥15/月 | | 销售/客户经理 | 400 | 中度 | 110万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.4/月 | | 客服/售前咨询 | 500 | 重度 | 910万 | Claude Haiku 5.5Anthropic · AA36 | 约¥9.6/月 | | HR/招聘 | 200 | 中度 | 100万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.3/月 | | 财务/会计 | 150 | 中度 | 33万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.41/月 | | 法务/合规 | 100 | 中度 | 63万 | GPT-6.1 SolOpenAI · AA55 | 约¥14/月 | | 文员/行政 | 150 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | ## 全国性股份制银行 使用强度 中金融 · 10,000人 · 客户经理与客服日常使用，受合规约束，研发中度使用 月 Token 合计 **320亿**输入 280亿 · 输出 38亿 人均月 Token **320万** 本地自部署最省配置 **昇腾910C 128GB**56 卡 · 7 台机器 最省：**API · DeepSeek V4.1 Flash 官方**（约¥8.6万/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥9万/月，约为最省方案的 1.0 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥51万/月 | 约¥51 | 5.9× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥8.6万/月 | 约¥8.6 | 最省 | | 开源自部署 · 公有云按需128 张 RTX 5090 32GB（INT4，16 台机器），只在工作时段开机 | 约¥9万/月 | 约¥9 | 1.0× | | 开源自部署 · 私有云包年128 张 RTX 5090 32GB（INT4，16 台机器），7×24 专属 | 约¥18万/月 | 约¥18 | 2.1× | | 开源自部署 · 本地自购56 张 昇腾910C 128GB（INT8，7 台机器），国内可采购中最省 | 约¥32万/月 | 约¥32 | 3.7× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 128 卡 / 16 台 | 约¥37万/月 | 约¥9万/月 | | RTX 4090D 24GB可采购 | INT4 · 192 卡 / 24 台 | 约¥40万/月 | 约¥10万/月 | | RTX 5090D 24GB可采购 | INT4 · 160 卡 / 20 台 | 约¥38万/月 | 约¥11万/月 | | H100 SXM5 80GB不可得 | INT4 · 32 卡 / 4 台 | 约¥30万/月 | 约¥14万/月 | | L40S 48GB可采购 | INT4 · 176 卡 / 22 台 | 约¥54万/月 | 约¥17万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 176 卡 / 22 台 | 约¥48万/月 | 约¥21万/月 | | B200 180GB不可得 | FP8 · 24 卡 / 3 台 | 约¥32万/月 | 约¥26万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 104 卡 / 13 台 | 约¥46万/月 | 约¥27万/月 | | B300 288GB不可得 | FP8 · 20 卡 / 3 台 | 约¥53万/月 | 约¥27万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 40 卡 / 5 台 | 约¥29万/月 | 约¥29万/月 | | 昇腾910C 128GB可采购 | INT8 · 56 卡 / 7 台 | 约¥32万/月 | — | | H800 SXM 80GB不可得 | INT4 · 32 卡 / 4 台 | 约¥36万/月 | — | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 120 卡 / 15 台 | 约¥47万/月 | — | | H20 96GB可采购 | INT4 · 136 卡 / 17 台 | 约¥58万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 136 卡 / 17 台 | 约¥75万/月 | — | | L20 48GB可采购 | INT4 · 336 卡 / 42 台 | 约¥78万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 176 卡 / 22 台 | 约¥84万/月 | — | **人员构成与使用度（10 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 银行客户经理/理财 | 3,500 | 中度 | 83万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1/月 | | 客服/售前咨询 | 2,000 | 中度 | 70万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.2/月 | | 数据分析师 | 500 | 中度 | 81万 | GPT-6.1 SolOpenAI · AA55 | 约¥19/月 | | 后端/全栈开发 | 900 | 中度 | 2600万 | GPT-6.1 SolOpenAI · AA55 | 约¥480/月 | | 运维/SRE | 300 | 中度 | 610万 | GPT-6.1 SolOpenAI · AA55 | 约¥120/月 | | 安全工程师 | 200 | 中度 | 570万 | GPT-6.1 SolOpenAI · AA55 | 约¥100/月 | | 法务/合规 | 300 | 中度 | 63万 | GPT-6.1 SolOpenAI · AA55 | 约¥14/月 | | 财务/会计 | 600 | 中度 | 33万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.41/月 | | HR/招聘 | 200 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 文员/行政 | 1,500 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | ## 汽车零部件制造集团 使用强度 低制造业 · 10,000人 · 七成是产线员工，AI 主要服务工程与职能部门 月 Token 合计 **58亿**输入 51亿 · 输出 7.2亿 人均月 Token **58万** 本地自部署最省配置 **RTX 5090D 24GB**32 卡 · 4 台机器 最省：**API · DeepSeek V4.1 Flash 官方**（约¥1.6万/月）。数据不出域时最省：**开源自部署 · 公有云按需**（约¥2.3万/月，约为最省方案的 1.4 倍）。 | 方案 | 月成本 | 人均/月 | 相对最省 | |---|---|---|---| | API · 按岗位优选模型各岗位按能力门槛选模型（可能含闭源） | 约¥7.6万/月 | 约¥7.6 | 4.8× | | API · DeepSeek V4.1 Flash 官方与下面自部署同一个开源模型 | 约¥1.6万/月 | 约¥1.6 | 最省 | | 开源自部署 · 公有云按需32 张 RTX 5090 32GB（INT4，4 台机器），只在工作时段开机 | 约¥2.3万/月 | 约¥2.3 | 1.4× | | 开源自部署 · 私有云包年32 张 RTX 5090 32GB（INT4，4 台机器），7×24 专属 | 约¥4.6万/月 | 约¥4.6 | 2.9× | | 开源自部署 · 本地自购32 张 RTX 5090D 24GB（INT4，4 台机器），国内可采购中最省 | 约¥7.6万/月 | 约¥7.6 | 4.8× | **各硬件自部署方案（17 款 GPU）** | GPU | 配置 | 本地自购 月成本 | 公有云按需 月成本 | |---|---|---|---| | RTX 5090 32GB不可得 | INT4 · 32 卡 / 4 台 | 约¥9.2万/月 | 约¥2.3万/月 | | RTX 5090D 24GB可采购 | INT4 · 32 卡 / 4 台 | 约¥7.6万/月 | 约¥2.3万/月 | | L40S 48GB可采购 | INT4 · 32 卡 / 4 台 | 约¥9.9万/月 | 约¥3.1万/月 | | H100 SXM5 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥7.4万/月 | 约¥3.4万/月 | | RTX 4090D 24GB可采购 | INT4 · 64 卡 / 8 台 | 约¥13万/月 | 约¥3.5万/月 | | RTX PRO 5000 Blackwell 48GB未明确 | INT4 · 32 卡 / 4 台 | 约¥8.6万/月 | 约¥3.9万/月 | | B300 288GB不可得 | FP8 · 4 卡 / 1 台 | 约¥11万/月 | 约¥5.3万/月 | | H200 141GB政策反复调整，需以最新出口管制清单为准 | FP8 · 8 卡 / 1 台 | 约¥5.7万/月 | 约¥5.9万/月 | | RTX PRO 6000 Blackwell 96GB不可得 | INT4 · 24 卡 / 3 台 | 约¥11万/月 | 约¥6.2万/月 | | B200 180GB不可得 | FP8 · 8 卡 / 1 台 | 约¥11万/月 | 约¥8.7万/月 | | 昇腾910C 128GB可采购 | INT8 · 16 卡 / 2 台 | 约¥9万/月 | — | | H800 SXM 80GB不可得 | INT4 · 8 卡 / 1 台 | 约¥9.1万/月 | — | | RTX PRO 5500 Blackwell 84GB未明确 | INT4 · 24 卡 / 3 台 | 约¥9.3万/月 | — | | H20 96GB可采购 | INT4 · 24 卡 / 3 台 | 约¥10万/月 | — | | L20 48GB可采购 | INT4 · 64 卡 / 8 台 | 约¥15万/月 | — | | 昇腾910B 64GB可采购 | INT4 · 32 卡 / 4 台 | 约¥15万/月 | — | | A800 PCIe 80GB多变/需核实 | INT4 · 32 卡 / 4 台 | 约¥18万/月 | — | **人员构成与使用度（9 类）** | 岗位 | 人数 | 使用度 | 单人月 Token | 优选模型 | 单人月成本 | |---|---|---|---|---|---| | 一线/产线员工 | 7,000 | 轻度 | 1.5万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.022/月 | | 制造/工艺工程师 | 1,200 | 中度 | 100万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1.2/月 | | 采购/供应链 | 300 | 中度 | 83万 | Claude Haiku 5.5Anthropic · AA36 | 约¥1/月 | | 销售/客户经理 | 400 | 轻度 | 16万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.25/月 | | 数据分析师 | 100 | 中度 | 81万 | GPT-6.1 SolOpenAI · AA55 | 约¥19/月 | | 后端/全栈开发 | 150 | 中度 | 2600万 | GPT-6.1 SolOpenAI · AA55 | 约¥480/月 | | 财务/会计 | 250 | 轻度 | 17万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.2/月 | | HR/招聘 | 200 | 轻度 | 18万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.26/月 | | 文员/行政 | 400 | 轻度 | 7.8万 | Claude Haiku 5.5Anthropic · AA36 | 约¥0.12/月 | FAQ ## 常见问题 **企业样本是真实企业吗?** 企业样本为示例性画像（行业、岗位构成与每类人员的使用度为假设），非特定企业实测数据，用于比较不同规模/行业的 AI Infra 配置与月度成本量级。 **五种方案分别怎么算?API · 按岗位优选**：沿用[岗位Token预算](https://www.tandiu.cn/token-budget)的选型算法，按每类人员的使用度取用量、按官方牌价计费。**API · DeepSeek V4.1 Flash 官方**：全部用量按该开源模型的官方 API 牌价计费，和自部署是同一个模型。**公有云按需 / 私有云包年**：在有云端时租数据的 GPU 里取该样本最省的一款；按需只在工作时段（每月 218 小时）开机，包年 7×24、单价按按需的 60% 估。**本地自购**：在国内可采购的 GPU 里取最省的一款，整机 = 卡价(优先市场价) + CPU/内存/网络/存储等其他部件；36 个月直线折旧；电费按卡 TDP + 每台 1.2kW、PUE 1.4、¥0.8/kWh；运维按每台机器每月 ¥5,000 分摊。每个样本下展开「各硬件自部署方案」可看全部 GPU。 **吞吐和卡数怎么估?** 每款 GPU 先按显存选精度（优先 8bit，8 卡装不下改 INT4）和一份模型需要的卡数；解码吞吐按显存带宽、预填充吞吐按 FP16 算力估算，系数用 8×H100 的保守量级校准，无 NVLink 的 PCIe 卡多卡并行再乘 0.6。按工作时段 218 小时/月、峰值系数 2 折算需要几份副本。吞吐为按规格推算的保守估计，未经本站实测。参考上限：DeepSeek 官方披露其大规模专家并行集群中每台 H800 节点平均约 73.7k tok/s 输入（含缓存命中）、14.8k tok/s 输出；单机/小规模部署达不到这个水平。 **价格从哪来?** API 牌价取自 [Token 报价](https://www.tandiu.cn/token-market)（每日）；GPU 市场价/出厂价与时租取自 [GPU 价格](https://www.tandiu.cn/compute)（时租每日、整卡报价每周检索）。本地成本优先用市场价，没有市场价的用出厂价；没有价格的卡不参与比较。API 成本按官方牌价、不计缓存命中折扣(编程 agent 实际缓存命中率常很高, 真实 API 成本通常更低), 是 API 方案的保守上限。 **什么时候该自部署?** 只看成本，自部署要在硬件被持续用满时才可能比 API 便宜；小团队连一台机器都用不满。实际决定自部署的通常是数据不出域、合规审计、定制微调和稳定时延，而不是省钱。每个样本都单独给出「数据不出域时最省的自部署方案」。 **估算，非实测。**用量按岗位使用场景假设推算，价格按官方牌价；数字取两位有效数字，用于比较量级。假设和来源见页底问答。