# 2026年 H100 租用成本：您实际要付多少钱

> 2026年 H100 租用成本详解：对比 SXM 与 PCIe 版本、按月与按小时计费，分析出站流量与存储费用，并附盈亏平衡公式，帮您在签约前比较任何一家服务商的报价。

来源：https://fullgpu.com/zh/blog/h100-rental-cost-2026  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

您看到的 H100 租用成本报价，可能指的是截然不同的东西：按秒计费的 PCIe 卡、共享 8 卡基板上的一张 GPU，或者预留一年的整块 SXM 模组。如果您正在估算 2026年租用一张 H100 要花多少钱，那么比起标价本身，更重要的是价格包含了什么，以及您实际会用多少小时。本指南将拆解影响价格的因素，公布我们自己的价格，并给出一个公式，帮您把任何月价与任何按小时报价进行比较。

## 2026年 H100 租用成本一览

我们以两种配置出租 H100，都采用整张 SXM GPU，且只分配给一位客户。价格固定，按月预付，不收取开通费。“每 GPU 小时”一栏是用月价除以 GPU 数量，再除以 730（一个月的平均小时数）得出的。

| 配置 | 包含内容 | 每月 | ≈ 每 GPU 小时 | 12 个月 |
| --- | --- | --- | --- | --- |
| 1× H100 SXM | 80 GB HBM3、24 个 vCPU、225 GB 内存、2 TB NVMe、25 Gbps、每月 20 TB 流量 | US$2,190 | US$3.00 | US$26,280 |
| 8× H100 SXM（HGX） | 640 GB HBM3（通过 NVLink 互联）、2× Xeon 8480+（112 核）、2 TB DDR5、8× 3.84 TB NVMe、8× 400G ConnectX-7、每月 50 TB 流量 | US$16,900 | US$2.89 | US$202,800 |

有两个细节值得注意。第一，[8 卡服务器](https://fullgpu.com/zh/products/8-gpu-servers)每月比 8 个单卡套餐（合计 US$17,520）便宜 US$620，而且其 GPU 之间通过 NVLink 而不是网络通信。如果您需要 8 张 GPU，HGX 服务器是更省钱的选择。第二，每小时价格只是一个折算值。无论 GPU 运行 730 小时还是 73 小时，您支付的都是同样的月价，因此是否划算取决于您的使用率。下文的盈亏平衡一节会告诉您如何核算。

## 哪些因素决定 H100 的租用价格

两份同样标为“一张 H100”的报价可能相差甚远，却都合情合理，因为它们描述的是不同的产品。以下六个因素可以解释大部分差距。

### SXM 还是 PCIe

H100 主要有两种外形规格。SXM5 模组安装在 HGX 基板上：根据 NVIDIA 公布的规格，它配备 80 GB HBM3 显存，带宽 3.35 TB/s，功耗上限 700 W，每张 GPU 配备 900 GB/s 的 NVLink 4。PCIe 卡同样配备 80 GB 显存，但采用带宽约 2 TB/s 的 HBM2e，功耗限制在 350 W 以内，流式多处理器（SM）也更少（114 个对比 132 个）。NVIDIA 还销售 H100 NVL，这是一款 94 GB 的 PCIe 版本。大语言模型（LLM）的 token 生成速度通常受显存带宽限制，因此带宽只有 SXM 版约 60% 的卡是另一种产品，定价也理应与之相符。光说“H100”并不构成规格：请问清楚报价对应的是哪个版本。

### 单张 GPU 还是整块 HGX 基板

在 HGX 基板上，全部 8 张 GPU 通过 NVSwitch 相连，因此张量并行推理和多 GPU 训练都走 NVLink，而不是 PCIe。整块基板还会按比例配备更多的 CPU、内存、NVMe 和网络资源。按我们的价格，8 卡服务器中的每张 GPU 约合每小时 US$2.89，而单卡套餐为 US$3.00；单卡套餐是整卡直通的独享虚拟机。

### 计费模式

业内常见的 GPU 计费方式有四种：按秒或按小时计费的按需模式、可能被收回的 Spot 或可中断容量、需要承诺数月或数年的预留期限，以及固定月价的独享服务器。可中断和长期承诺的费率本就设计得更低，因为您要承担任务运行中途失去 GPU 的风险，或者为不再需要的算力付费的风险。比较时要同类相比：一个可中断的 GPU 小时与一个有保障的 GPU 小时，买到的不是同一种东西。

### 租期长短

承诺的期限越长，费率越低，但您的预算也会被锁定。2026年，GPU 算力供应紧张，许多服务商更愿意签一年期合同，按需库存也经常售罄。我们的最短期限为一个月，任何月份均可免费取消。拥有运行中的服务器后，您可以提交工单，咨询 6 到 12 个月的长期价格，或多台服务器（通常三台起）的批量价格。

### 出站流量与带宽

超大规模云服务商通常按 GB 收取出站流量费，因此部署模型推理服务、同步检查点或导出数据集，都会在账单上多出一项 GPU 费率中看不到的费用。我们的套餐包含每月 20 TB（单卡服务器）或 50 TB（8 卡服务器）的出站流量，遵循合理使用原则，额度内不收取出站流量费，入站流量也不计入。我们的帮助中心介绍了[带宽和出站流量的计算方式](https://fullgpu.com/zh/help/bandwidth-and-egress)。

### 存储

BF16 精度的 70B 模型，在还没算上数据集和检查点之前就约有 140 GB，因此存储费用绝不是可以忽略不计的零头。在许多云平台上，启动盘和存储卷按每 GB·月计费，而且实例停止后仍会继续计费。我们的服务器包含本地 NVMe 存储：单卡 H100 为 2 TB，HGX H100 为 8× 3.84 TB。除非另有书面约定，我们不会备份本地磁盘，因此对于任何无法重新生成的数据，请规划好在服务器之外的副本。详情请参阅[本地 NVMe 存储指南](https://fullgpu.com/zh/docs/storage-nvme)。

## 如何比较月价与按小时报价

比较只需做一次除法：

```
break-even hours     = monthly price ÷ hourly rate
required utilization = break-even hours ÷ 730
```

如果您一个月内运行 GPU 的小时数超过盈亏平衡小时数（break-even hours），按月套餐更便宜；如果少于这个数，则按小时计费更便宜。下表把公式应用到每月 US$2,190 的单卡 H100 上。表中的小时费率只是用来演示计算的示例值，并非任何服务商的报价：请代入您自己拿到的费率。

| 小时费率（示例值） | 每月盈亏平衡小时数 | 所需使用率 |
| --- | --- | --- |
| US$2.50 | 876 | 超过 100%：即使全天候满载运行，按小时计费也更便宜 |
| US$3.00 | 730 | 100% |
| US$3.50 | 626 | 86% |
| US$4.00 | 548 | 75% |
| US$5.00 | 438 | 60% |
| US$6.00 | 365 | 50% |

做好以下三项调整，比较才算公允：

- **使用综合小时费率。**把存储、出站流量、公网 IP 和支持服务的费用都算进去：综合费率 = GPU 费率 +（每月额外费用 ÷ 使用小时数）。如果 500 小时内产生 US$300 的额外费用，US$3.50 的费率就会变成 US$4.10。
- **算计费的小时数，而不是实际用于计算的小时数。**环境搭建、下载权重、调试以及任务之间的空闲时间都在计费，除非您每次都销毁实例，之后再重新搭建。
- **核算实际使用量下的有效费率。**用月价除以您实际使用的小时数。每月 US$2,190 的 H100 如果只用了 300 小时，每小时成本就是 US$7.30；这就是为什么按月套餐适合稳定的工作负载，而按小时计费适合偶尔使用的场景。

对于 8 卡服务器，要与单卡费率的 8 倍进行比较。假设示例费率为每 GPU 小时 US$3.50，8 张 GPU 每小时就是 US$28，与每月 US$16,900 相比，盈亏平衡点为 604 小时，即一个月的 83%。[GPU 成本计算器](https://fullgpu.com/zh/tools/gpu-cost-calculator)可以替您完成这些计算，我们的[按月与按小时 GPU 计价对比](https://fullgpu.com/zh/compare/monthly-vs-hourly-gpu-pricing)则对其中的权衡做了更深入的分析。

## 2026年 H100 租用价格在下降吗？

从我们跟踪的数据来看，并没有。FullGPU 于 2026年10月对公开价目表的调研覆盖了 38 个来源，结果发现：过去一年，每 GPU 小时的按需价格中位数，H100 上涨约 13%，H200 上涨约 27%，B200 上涨约 20%。

H100 已不再是 NVIDIA 最新的数据中心 GPU，因此直觉上人们会预期它降价。调研结果却恰恰相反，这与买家在 2026年看到的情况相符：算力供应紧张，许多服务商更愿意签一年期合同，按需库存也经常售罄。只有在您需要的那天 GPU 恰好有货，低廉的小时费率才有意义。

由此可以得出两个实际结论。如果您的工作负载稳定，固定月价可以让您免受按需价格波动的影响。我们的价格在每个已付费月份内固定不变；今后月份如有任何价格调整，都会至少提前 30 天通知，您也可以在调整生效前取消。如果您希望把价格约定得更久，可以在拥有运行中的服务器后提交工单，咨询 6 到 12 个月的长期价格，而不必赌按小时费率会一直维持现状。

## 隐性成本检查清单

签约之前，请用下面这些问题逐一检查每份报价。GPU 账单上的意外，大多来自 GPU 周边的各项费用，而不是 GPU 本身。

- **出站流量。**出站流量是否按 GB 计费？包含多少额度？
- **存储。**磁盘和存储卷是否单独计费？实例停止后是否仍继续计费？
- **中断。**算力是否可能被收回？如果是，保存检查点和重启会耗费您多少时间？
- **空闲时间。**环境搭建、数据加载以及两次实验之间的夜间时段是否都会计费？
- **开通费与最低消费。**是否收取开通费？是否有最低消费或预付款要求？
- **网络附加费用。**公网 IPv4 地址、负载均衡器或私有连接是否单独收费？
- **主机资源。**CPU、内存和本地磁盘是否与 GPU 相匹配？还是需要更大的实例才能获得？
- **配额与等待时间。**启动之前是否需要配额审批？审批需要多长时间？
- **支持。**能否随时联系到工程师？还是需要购买付费支持等级？
- **税费。**价格是否未含增值税或销售税？

作为参考，我们的月价包含：整张 GPU，列出的 CPU、内存和 NVMe，一个公网 IPv4 地址和一个 IPv6 /64 网段，公网 IP 的 DDoS 防护，每月流量额度，预装 NVIDIA 驱动、CUDA 和 Docker 的 Ubuntu 镜像，以及工程师 7×24 小时支持。月价不包含本地存储的备份，也不包含增值税等税费，税费在适用时另行加收。

## H100 与新一代 GPU 对比：每 GB 显存的成本

对于 LLM 工作负载，显存容量往往决定了您需要多少张 GPU，因此每 GB 显存的价格是一个很有用的辅助视角。下表用我们的月价除以 GPU 总显存。

| 配置 | 显存 | 单卡带宽 | 每月 | ≈ 每 GB 每月 |
| --- | --- | --- | --- | --- |
| 1× H100 SXM | 80 GB HBM3 | 3.35 TB/s | US$2,190 | US$27.4 |
| 1× H200 | 141 GB HBM3e | 4.8 TB/s | US$3,090 | US$21.9 |
| 1× B200 | 180 GB HBM3e | 8 TB/s | US$4,590 | US$25.5 |
| 1× B300 | 288 GB HBM3e | ~8 TB/s | US$5,190 | US$18.0 |
| 1× RTX PRO 6000 | 96 GB GDDR7 | 1.6 TB/s | US$1,390 | US$14.5 |
| 8× H100（HGX） | 640 GB HBM3 | 3.35 TB/s | US$16,900 | US$26.4 |
| 8× H200（HGX） | 1,128 GB HBM3e | 4.8 TB/s | US$23,900 | US$21.2 |
| 8× B200（HGX） | 1,440 GB HBM3e | 8 TB/s | US$34,900 | US$24.2 |
| 8× B300（HGX） | 2,304 GB HBM3e | ~8 TB/s | US$39,900 | US$17.3 |
| 8× MI355X | 2,304 GB HBM3e | 8 TB/s | US$19,900 | US$8.6 |

按每 GB 计算，单卡 H100 是这张表中最贵的选项。但这并不意味着它不值得买，只是说明了它适合用在哪里。H100 和 H200 的厂商标称算力相同（稠密 BF16 算力 989 TFLOPS，稠密 FP8 算力 1,979 TFLOPS），因此对于 80 GB 装得下、受算力限制的工作负载，H100 能以低 29% 的价格提供同样的计算能力。一旦显存成为约束，H200 的显存容量多 76%、带宽高 43%，价格则高 41%；而 B300 和 MI355X 每一美元能买到的显存要多得多。MI355X 运行的是 ROCm 而不是 CUDA，因此在让每 GB 价格左右您的决定之前，请先确认您的软件栈。

## 什么情况下 H100 是正确的选择

2026年，对于大量实际工作而言，H100 仍然是正确的选择，尤其是在以下情况下：

- **您的模型及其 KV 缓存能装进 80 GB。**BF16 精度的 8B 模型约占 16 GB，32B 模型约占 64 GB，都能为上下文留出空间。70B 模型以 FP8 运行时约占 70 GB，能装下但只是勉强，留给并发请求的空间很少。我们关于 [LLM 需要多少显存](https://fullgpu.com/zh/blog/vram-for-llms)的指南给出了完整的计算方法。
- **您的工作受算力限制。**微调和训练较小的模型、嵌入任务以及批处理，更看重 FLOPS 而不是显存容量，而这正是 H100 的单位算力价格依然有竞争力的地方。
- **您需要成熟的软件栈。**PyTorch、vLLM、TensorRT-LLM 以及 CUDA 生态中的其他工具都对 Hopper 提供广泛支持，包括 FP8。
- **您需要 8 张通过 NVLink 互联的 GPU**，用于对 70B 模型做 LoRA、对较小的模型做全参数微调，或以张量并行方式部署推理服务。HGX H100 约合每 GPU 小时 US$2.89，是我们配备 HBM 的 8 卡服务器中价格最低的一款。

当显存成为约束时，就该升级：[H100 与 H200 对比](https://fullgpu.com/zh/compare/h100-vs-h200)介绍了最常见的升级路径，适用于需要真正并发能力和长上下文的 70B 模型推理服务。如果您想在单张 GPU 上以 BF16 运行 70B 模型，或者需要 FP4，就改用 Blackwell。如果 H100 能满足您的工作负载，[NVIDIA H100 页面](https://fullgpu.com/zh/gpus/nvidia-h100)列出了两种配置，服务器在付款后 10 分钟内交付。

## 常见问题

### 每月租用一张 H100 要多少钱？

我们出租的 80 GB 单卡 H100 SXM 每月 US$2,190，8 卡 HGX H100 服务器每月 US$16,900，按每月 730 小时计算，分别约合每 GPU 小时 US$3.00 和 US$2.89。价格固定，按月预付，不收取开通费。

### 租用 H100，按小时还是按月更便宜？

用月价除以小时费率，就能得到盈亏平衡小时数。如果您每月使用 GPU 的小时数超过这个值，按月更便宜；如果只在一个月中的部分时间需要，按小时通常更划算。

### H100 SXM 和 H100 PCIe 有什么区别？

根据 NVIDIA 公布的规格，SXM 模组的 HBM3 带宽为 3.35 TB/s，功耗上限 700 W，并通过 NVLink 连接整块 HGX 基板上的 GPU；PCIe 卡的带宽约 2 TB/s，功耗上限 350 W，计算单元也更少。比较价格之前，请先问清楚报价对应的是哪个版本。

### H100 的价格之外还有额外费用吗？

我们的月价已包含 CPU、内存、本地 NVMe、一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护，以及每月 20 TB（单卡套餐）或 50 TB（8 卡服务器）的流量，且不收取开通费。增值税等税费在适用时另行加收。

### 租用 H100 一个月后可以取消吗？

可以。最短期限为一个月，任何月份均可免费取消；服务器会一直运行到已付费月份结束。

## 相关页面

- [租用 NVIDIA H100 SXM 服务器，每月 US$2,190 起](https://fullgpu.com/zh/gpus/nvidia-h100): 租用独享 NVIDIA H100 SXM：单卡 US$2,190/月（全天候满载约合每 GPU 小时 US$3.00），8 卡 HGX H100 US$16,900/月。固定月价，付款后 10 分钟内交付，支持加密货币支付。
- [H100 与 H200 对比：Hopper 算力相同，显存差异巨大](https://fullgpu.com/zh/compare/h100-vs-h200): H100 与 H200 对比：Hopper 算力相同，显存与带宽分别为 80 GB、3.35 TB/s 和 141 GB、4.8 TB/s。逐项比较单卡能装下什么、KV 缓存如何估算，以及每月费用。
- [按月与按小时 GPU 计费对比：如何算出您的盈亏平衡点](https://fullgpu.com/zh/compare/monthly-vs-hourly-gpu-pricing): 按月与按小时 GPU 计费对比：给出盈亏平衡公式、一张基于我们实际价格的使用率对照表、按小时账单常会额外增加的各项费用，并说明什么情况下按小时计费更划算。
- [GPU 成本计算器：按月与按小时租用 GPU 对比](https://fullgpu.com/zh/tools/gpu-cost-calculator): 使用这款 GPU 成本计算器，比较按小时租用和按月租用 GPU 的费用：查看每月总费用、盈亏平衡所需的小时数，以及在做出决定之前应当计入的各项额外成本。