2026年 H100 租用成本：您实际要付多少钱

您看到的 H100 租用成本报价，可能指的是截然不同的东西：按秒计费的 PCIe 卡、共享 8 卡基板上的一张 GPU，或者预留一年的整块 SXM 模组。如果您正在估算 2026年租用一张 H100 要花多少钱，那么比起标价本身，更重要的是价格包含了什么，以及您实际会用多少小时。本指南将拆解影响价格的因素，公布我们自己的价格，并给出一个公式，帮您把任何月价与任何按小时报价进行比较。

2026年 H100 租用成本一览

我们以两种配置出租 H100，都采用整张 SXM GPU，且只分配给一位客户。价格固定，按月预付，不收取开通费。“每 GPU 小时”一栏是用月价除以 GPU 数量，再除以 730（一个月的平均小时数）得出的。

有两个细节值得注意。第一，8 卡服务器每月比 8 个单卡套餐（合计 US$17,520）便宜 US$620，而且其 GPU 之间通过 NVLink 而不是网络通信。如果您需要 8 张 GPU，HGX 服务器是更省钱的选择。第二，每小时价格只是一个折算值。无论 GPU 运行 730 小时还是 73 小时，您支付的都是同样的月价，因此是否划算取决于您的使用率。下文的盈亏平衡一节会告诉您如何核算。

哪些因素决定 H100 的租用价格

两份同样标为“一张 H100”的报价可能相差甚远，却都合情合理，因为它们描述的是不同的产品。以下六个因素可以解释大部分差距。

SXM 还是 PCIe

H100 主要有两种外形规格。SXM5 模组安装在 HGX 基板上：根据 NVIDIA 公布的规格，它配备 80 GB HBM3 显存，带宽 3.35 TB/s，功耗上限 700 W，每张 GPU 配备 900 GB/s 的 NVLink 4。PCIe 卡同样配备 80 GB 显存，但采用带宽约 2 TB/s 的 HBM2e，功耗限制在 350 W 以内，流式多处理器（SM）也更少（114 个对比 132 个）。NVIDIA 还销售 H100 NVL，这是一款 94 GB 的 PCIe 版本。大语言模型（LLM）的 token 生成速度通常受显存带宽限制，因此带宽只有 SXM 版约 60% 的卡是另一种产品，定价也理应与之相符。光说“H100”并不构成规格：请问清楚报价对应的是哪个版本。

单张 GPU 还是整块 HGX 基板

在 HGX 基板上，全部 8 张 GPU 通过 NVSwitch 相连，因此张量并行推理和多 GPU 训练都走 NVLink，而不是 PCIe。整块基板还会按比例配备更多的 CPU、内存、NVMe 和网络资源。按我们的价格，8 卡服务器中的每张 GPU 约合每小时 US$2.89，而单卡套餐为 US$3.00；单卡套餐是整卡直通的独享虚拟机。

计费模式

业内常见的 GPU 计费方式有四种：按秒或按小时计费的按需模式、可能被收回的 Spot 或可中断容量、需要承诺数月或数年的预留期限，以及固定月价的独享服务器。可中断和长期承诺的费率本就设计得更低，因为您要承担任务运行中途失去 GPU 的风险，或者为不再需要的算力付费的风险。比较时要同类相比：一个可中断的 GPU 小时与一个有保障的 GPU 小时，买到的不是同一种东西。

租期长短

承诺的期限越长，费率越低，但您的预算也会被锁定。2026年，GPU 算力供应紧张，许多服务商更愿意签一年期合同，按需库存也经常售罄。我们的最短期限为一个月，任何月份均可免费取消。拥有运行中的服务器后，您可以提交工单，咨询 6 到 12 个月的长期价格，或多台服务器（通常三台起）的批量价格。

出站流量与带宽

超大规模云服务商通常按 GB 收取出站流量费，因此部署模型推理服务、同步检查点或导出数据集，都会在账单上多出一项 GPU 费率中看不到的费用。我们的套餐包含每月 20 TB（单卡服务器）或 50 TB（8 卡服务器）的出站流量，遵循合理使用原则，额度内不收取出站流量费，入站流量也不计入。我们的帮助中心介绍了带宽和出站流量的计算方式。

存储

BF16 精度的 70B 模型，在还没算上数据集和检查点之前就约有 140 GB，因此存储费用绝不是可以忽略不计的零头。在许多云平台上，启动盘和存储卷按每 GB·月计费，而且实例停止后仍会继续计费。我们的服务器包含本地 NVMe 存储：单卡 H100 为 2 TB，HGX H100 为 8× 3.84 TB。除非另有书面约定，我们不会备份本地磁盘，因此对于任何无法重新生成的数据，请规划好在服务器之外的副本。详情请参阅本地 NVMe 存储指南。

如何比较月价与按小时报价

比较只需做一次除法：

break-even hours     = monthly price ÷ hourly rate
required utilization = break-even hours ÷ 730

如果您一个月内运行 GPU 的小时数超过盈亏平衡小时数（break-even hours），按月套餐更便宜；如果少于这个数，则按小时计费更便宜。下表把公式应用到每月 US$2,190 的单卡 H100 上。表中的小时费率只是用来演示计算的示例值，并非任何服务商的报价：请代入您自己拿到的费率。

做好以下三项调整，比较才算公允：

• 使用综合小时费率。把存储、出站流量、公网 IP 和支持服务的费用都算进去：综合费率 = GPU 费率 +（每月额外费用 ÷ 使用小时数）。如果 500 小时内产生 US$300 的额外费用，US$3.50 的费率就会变成 US$4.10。
• 算计费的小时数，而不是实际用于计算的小时数。环境搭建、下载权重、调试以及任务之间的空闲时间都在计费，除非您每次都销毁实例，之后再重新搭建。
• 核算实际使用量下的有效费率。用月价除以您实际使用的小时数。每月 US$2,190 的 H100 如果只用了 300 小时，每小时成本就是 US$7.30；这就是为什么按月套餐适合稳定的工作负载，而按小时计费适合偶尔使用的场景。

对于 8 卡服务器，要与单卡费率的 8 倍进行比较。假设示例费率为每 GPU 小时 US$3.50，8 张 GPU 每小时就是 US$28，与每月 US$16,900 相比，盈亏平衡点为 604 小时，即一个月的 83%。GPU 成本计算器可以替您完成这些计算，我们的按月与按小时 GPU 计价对比则对其中的权衡做了更深入的分析。

2026年 H100 租用价格在下降吗？

从我们跟踪的数据来看，并没有。FullGPU 于 2026年10月对公开价目表的调研覆盖了 38 个来源，结果发现：过去一年，每 GPU 小时的按需价格中位数，H100 上涨约 13%，H200 上涨约 27%，B200 上涨约 20%。

H100 已不再是 NVIDIA 最新的数据中心 GPU，因此直觉上人们会预期它降价。调研结果却恰恰相反，这与买家在 2026年看到的情况相符：算力供应紧张，许多服务商更愿意签一年期合同，按需库存也经常售罄。只有在您需要的那天 GPU 恰好有货，低廉的小时费率才有意义。

由此可以得出两个实际结论。如果您的工作负载稳定，固定月价可以让您免受按需价格波动的影响。我们的价格在每个已付费月份内固定不变；今后月份如有任何价格调整，都会至少提前 30 天通知，您也可以在调整生效前取消。如果您希望把价格约定得更久，可以在拥有运行中的服务器后提交工单，咨询 6 到 12 个月的长期价格，而不必赌按小时费率会一直维持现状。

隐性成本检查清单

签约之前，请用下面这些问题逐一检查每份报价。GPU 账单上的意外，大多来自 GPU 周边的各项费用，而不是 GPU 本身。

• 出站流量。出站流量是否按 GB 计费？包含多少额度？
• 存储。磁盘和存储卷是否单独计费？实例停止后是否仍继续计费？
• 中断。算力是否可能被收回？如果是，保存检查点和重启会耗费您多少时间？
• 空闲时间。环境搭建、数据加载以及两次实验之间的夜间时段是否都会计费？
• 开通费与最低消费。是否收取开通费？是否有最低消费或预付款要求？
• 网络附加费用。公网 IPv4 地址、负载均衡器或私有连接是否单独收费？
• 主机资源。CPU、内存和本地磁盘是否与 GPU 相匹配？还是需要更大的实例才能获得？
• 配额与等待时间。启动之前是否需要配额审批？审批需要多长时间？
• 支持。能否随时联系到工程师？还是需要购买付费支持等级？
• 税费。价格是否未含增值税或销售税？

作为参考，我们的月价包含：整张 GPU，列出的 CPU、内存和 NVMe，一个公网 IPv4 地址和一个 IPv6 /64 网段，公网 IP 的 DDoS 防护，每月流量额度，预装 NVIDIA 驱动、CUDA 和 Docker 的 Ubuntu 镜像，以及工程师 7×24 小时支持。月价不包含本地存储的备份，也不包含增值税等税费，税费在适用时另行加收。

H100 与新一代 GPU 对比：每 GB 显存的成本

对于 LLM 工作负载，显存容量往往决定了您需要多少张 GPU，因此每 GB 显存的价格是一个很有用的辅助视角。下表用我们的月价除以 GPU 总显存。

按每 GB 计算，单卡 H100 是这张表中最贵的选项。但这并不意味着它不值得买，只是说明了它适合用在哪里。H100 和 H200 的厂商标称算力相同（稠密 BF16 算力 989 TFLOPS，稠密 FP8 算力 1,979 TFLOPS），因此对于 80 GB 装得下、受算力限制的工作负载，H100 能以低 29% 的价格提供同样的计算能力。一旦显存成为约束，H200 的显存容量多 76%、带宽高 43%，价格则高 41%；而 B300 和 MI355X 每一美元能买到的显存要多得多。MI355X 运行的是 ROCm 而不是 CUDA，因此在让每 GB 价格左右您的决定之前，请先确认您的软件栈。

什么情况下 H100 是正确的选择

2026年，对于大量实际工作而言，H100 仍然是正确的选择，尤其是在以下情况下：

• 您的模型及其 KV 缓存能装进 80 GB。BF16 精度的 8B 模型约占 16 GB，32B 模型约占 64 GB，都能为上下文留出空间。70B 模型以 FP8 运行时约占 70 GB，能装下但只是勉强，留给并发请求的空间很少。我们关于 LLM 需要多少显存的指南给出了完整的计算方法。
• 您的工作受算力限制。微调和训练较小的模型、嵌入任务以及批处理，更看重 FLOPS 而不是显存容量，而这正是 H100 的单位算力价格依然有竞争力的地方。
• 您需要成熟的软件栈。PyTorch、vLLM、TensorRT-LLM 以及 CUDA 生态中的其他工具都对 Hopper 提供广泛支持，包括 FP8。
• 您需要 8 张通过 NVLink 互联的 GPU，用于对 70B 模型做 LoRA、对较小的模型做全参数微调，或以张量并行方式部署推理服务。HGX H100 约合每 GPU 小时 US$2.89，是我们配备 HBM 的 8 卡服务器中价格最低的一款。

当显存成为约束时，就该升级：H100 与 H200 对比介绍了最常见的升级路径，适用于需要真正并发能力和长上下文的 70B 模型推理服务。如果您想在单张 GPU 上以 BF16 运行 70B 模型，或者需要 FP4，就改用 Blackwell。如果 H100 能满足您的工作负载，NVIDIA H100 页面列出了两种配置，承诺交付日期会在付款前显示。

常见问题

每月租用一张 H100 要多少钱？

我们出租的 80 GB 单卡 H100 SXM 每月 US$2,190，8 卡 HGX H100 服务器每月 US$16,900，按每月 730 小时计算，分别约合每 GPU 小时 US$3.00 和 US$2.89。价格固定，按月预付，不收取开通费。

租用 H100，按小时还是按月更便宜？

用月价除以小时费率，就能得到盈亏平衡小时数。如果您每月使用 GPU 的小时数超过这个值，按月更便宜；如果只在一个月中的部分时间需要，按小时通常更划算。

H100 SXM 和 H100 PCIe 有什么区别？

根据 NVIDIA 公布的规格，SXM 模组的 HBM3 带宽为 3.35 TB/s，功耗上限 700 W，并通过 NVLink 连接整块 HGX 基板上的 GPU；PCIe 卡的带宽约 2 TB/s，功耗上限 350 W，计算单元也更少。比较价格之前，请先问清楚报价对应的是哪个版本。

H100 的价格之外还有额外费用吗？

我们的月价已包含 CPU、内存、本地 NVMe、一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护，以及每月 20 TB（单卡套餐）或 50 TB（8 卡服务器）的流量，且不收取开通费。增值税等税费在适用时另行加收。

租用 H100 一个月后可以取消吗？

可以。最短期限为一个月，任何月份均可免费取消；服务器会一直运行到已付费月份结束。