# 租用 NVIDIA H100 SXM 服务器，每月 US$2,190 起

> 租用独享 NVIDIA H100 SXM：单卡 US$2,190/月（全天候满载约合每 GPU 小时 US$3.00），8 卡 HGX H100 US$16,900/月。固定月价，付款后 10 分钟内交付，支持加密货币支付。

来源：https://fullgpu.com/zh/gpus/nvidia-h100  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

**简而言之：** FullGPU 按月出租 NVIDIA H100 SXM：一张独享的 H100 SXM（80 GB HBM3），每月 US$2,190，满载使用时约合每 GPU 小时 US$3.00；或一台 8 卡 NVIDIA HGX H100 服务器（8 × 80 GB HBM3），每月 US$16,900，约合每 GPU 小时 US$2.89。两种配置均有现货，付款后 10 分钟内交付。费用从以美元计价的余额中支付，余额可用 Bitcoin、Ethereum、Monero、USDT（TRC-20）或 Solana 充值；无开通费，套餐可在任何一次月度续费前取消。

## FullGPU 的 H100 配置与月价

| 配置 | 类型 | 显存 | CPU | 内存 | 存储 | 网络 | 每月价格（美元） | 每 GPU 小时 | 供货情况 |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [NVIDIA H100 SXM](https://fullgpu.com/zh/gpus/nvidia-h100) | 单卡 | 80 GB HBM3 | 24 vCPU | 225 GB | 2 TB NVMe | 25 Gbps | US$2,190 | US$3.00 | 现货，付款后10 分钟内交付 |
| [8× NVIDIA HGX H100](https://fullgpu.com/zh/gpus/nvidia-h100) | 8 卡服务器 | 8 × 80 GB HBM3 | 2× Xeon 8480+ · 112 核 | 2 TB DDR5 | 8× 3.84 TB NVMe | 8× 400G ConnectX-7 | US$16,900 | US$2.89 | 现货，付款后10 分钟内交付 |

每 GPU 小时 = 月价 ÷ GPU 数量 ÷ 730 小时，仅用于与按小时计费的方案对比：所有套餐均按固定月价计费。

## NVIDIA H100 SXM 规格（厂商公布）

| 规格项 | 参数值 | 备注 |
| --- | --- | --- |
| 架构 | Hopper | NVIDIA |
| 显存 | 80 GB HBM3 |   |
| 显存带宽 | 3.35 TB/s |   |
| FP4 | — | 不支持 |
| FP8 | 1,979 TFLOPS | 稀疏算力 3,958 TFLOPS |
| BF16 / FP16 | 989 TFLOPS | 稀疏算力 1,979 TFLOPS |
| GPU 互联 | NVLink 4 · 900 GB/s | 每 GPU |
| 外形规格 | SXM5 模组 · HGX H100 |   |
| 最大功耗 | 700 W |   |

## H100 最擅长什么

- **LoRA 与 QLoRA 微调:** 对 70B 模型做 QLoRA、对 8B 至 14B 模型做 LoRA，单张 80 GB GPU 都能装下。
- **32B 以内模型推理:** 约 32B 以内的模型以 FP8 运行时，单张 H100 仍能为 KV 缓存留出充足空间。
- **科研与多 GPU 任务:** 8 张通过 NVLink 互联的 H100，共 640 GB HBM3，适合分片训练和实验。
- **教学与原型开发:** 一整张支持 FP8 的 Hopper GPU，每月 US$2,190，适合课程教学和概念验证。

## 何时选择其他 GPU 更合适

- [租用 NVIDIA H200 与 HGX H200 服务器，每月 US$3,090 起](https://fullgpu.com/zh/gpus/nvidia-h200): 当 FP8 精度的 70B 模型需要充足的 KV 缓存余量，或您需要提供长上下文推理服务时。
- [租用独享 NVIDIA L40S，每月 US$890](https://fullgpu.com/zh/gpus/nvidia-l40s): 用于约 30B 以内模型的 FP8 推理或图像生成，每月 US$890。
- [租用 RTX PRO 6000 Blackwell 服务器，每月 US$1,390 起](https://fullgpu.com/zh/gpus/nvidia-rtx-pro-6000): 当您需要更大的单卡显存（96 GB）且希望月价更低，同时可以舍弃 HBM 带宽时。

## 概览

如果您想按月租用 NVIDIA H100 GPU，我们提供现货 SXM 版本：搭载单张 H100 的独享虚拟机，每月 US$2,190；或搭载 8 张 GPU 的 NVIDIA HGX H100 裸金属服务器，每月 US$16,900。每张 GPU 都是由您独享的完整物理 H100，无论使用率高低，价格都固定不变。

## 2026年的 H100 SXM：您能获得什么

H100 是 NVIDIA 首款 Hopper 架构 GPU。它为 NVIDIA 的数据中心产品线带来了 FP8 Tensor Core 和 Transformer 引擎；经过多年的生产环境使用，PyTorch、vLLM、SGLang 和 TensorRT-LLM 都已对它提供完善支持。NVIDIA 公布的 SXM 版规格为：FP8 稠密算力 1,979 TFLOPS，BF16 稠密算力 989 TFLOPS，配备 80 GB HBM3 显存，显存带宽 3.35 TB/s。如果您目前使用的是上一代 GPU，可以参阅我们的 [H100 与 Ampere 架构的对比](https://fullgpu.com/zh/compare/a100-vs-h100)，了解有哪些变化。

比较报价时，SXM 这一细节很重要。SXM 是 NVIDIA HGX 基板采用的模组规格，每张 GPU 配备 900 GB/s 的 NVLink 4，功耗预算为 700 W；因此，请确认您比较的每个价格对应的都是同一版本。与同代的 H200 相比，H100 的厂商标称算力相同，但显存更小（80 GB 对比 141 GB），显存带宽也更低（3.35 TB/s 对比 4.8 TB/s）。对于 80 GB 装得下的工作负载，H100 也就成了性价比之选。

## 80 GB 显存能装下什么

按常规方法估算：权重约为参数量 × 每个参数的字节数（BF16 为 2 字节，FP8 为 1 字节，4 位为半个字节），再加上 KV 缓存和 10–30% 的余量。

- **推理 32B 以内的模型：**BF16 精度的 8B 模型约占 16 GB，FP8 精度的 32B 模型约占 32 GB，两者都能为 KV 缓存留出数十 GB 空间。BF16 精度的 32B 模型（约 64 GB）在中等上下文长度下可装入单张 GPU；若上下文很长或并发请求很多，则需要改用 FP8 或增加第二张 GPU。
- **推理 70B 模型：**FP8 精度下约 70 GB，单张 H100 只能勉强装下，留给 KV 缓存的空间很少。用于生产环境时，可以通过张量并行拆分到两张 H100 上、量化到 4 位（约 35 GB），或改用一张 H200。
- **单卡微调：**对 70B 模型做 QLoRA（4 位权重约 35 GB，另加适配器和激活值），以及在 BF16 精度下对 8B–14B 模型做 LoRA，都能在单张 H100 上完成。
- **在 HGX H100 上做全参数微调：**使用 Adam 优化器时，不计激活值，每个参数大约需要 16–20 字节，因此 8B 模型约需 128–160 GB，分布到 8 张 GPU、共 640 GB 显存上绰绰有余。70B 模型约需 1.1–1.4 TB，超出了这台服务器的 HBM3 容量：您需要把优化器状态卸载到服务器的 2 TB DDR5 内存中，或者改用 HGX B300。
- **超大模型：**FP8 精度的 405B 级模型（约 405 GB）可以装入 HGX H100，还能留出约 200 GB 给 KV 缓存。FP8 精度的 671B 混合专家（MoE）模型则根本装不进 640 GB。

我们的 [70B 模型微调指南](https://fullgpu.com/zh/blog/fine-tune-70b-model)对这几种方案做了更详细的比较。

## 单卡 H100，还是 8 卡 HGX H100 服务器？

单卡 H100 套餐包含 24 个 vCPU、225 GB 内存、2 TB NVMe 存储和一个 25 Gbps 网络端口。这一规格正适合：单个推理端点、一次运行一个微调任务、一门课程或一次概念验证。

HGX H100 是一台裸金属服务器：8 张 H100 SXM GPU 位于同一个 NVLink 域内，每张 GPU 的互联带宽为 900 GB/s；另配两颗 Xeon 8480+ 处理器（共 112 核）、2 TB DDR5 内存、8 块 3.84 TB NVMe 硬盘和 8 块 400G ConnectX-7 网卡。当一个任务需要多张 GPU 协同处理同一个模型时，就选它：例如用张量并行提供 70B 模型推理服务、分片训练，或运行多 GPU 科研代码。8 台单卡 H100 每月合计 US$17,520，而这台服务器每月 US$16,900，还多了 NVLink；如果是 1 到 7 张 GPU 上相互独立的工作，单卡套餐更省钱。

## H100 服务器上的软件栈

每台服务器都提供 SSH root 权限，以及预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的 Ubuntu 22.04 或 24.04 镜像；Debian 或 Rocky Linux 可应要求提供。您可以直接拉取常用的容器开始工作。下面两条命令用于确认 GPU 可用，并持续观察其状态：

```
docker run --rm --gpus all pytorch/pytorch:latest \
  python -c "import torch; print(torch.cuda.get_device_name(0))"
nvidia-smi --query-gpu=memory.used,memory.total,utilization.gpu \
  --format=csv -l 5
```

第二条命令每 5 秒输出一次显存占用和利用率，可以快速看出您的任务是受显存限制，还是让 GPU 处于闲置状态。我们的 [GPU 监控指南](https://fullgpu.com/zh/docs/gpu-monitoring)有更深入的介绍。

## H100 租用价格：每月与每 GPU 小时

单卡 H100 每月 US$2,190，如果全月 730 小时都在运行，折合每 GPU 小时正好 US$3.00。HGX H100 每月 US$16,900，约合每 GPU 小时 US$2.89。由于价格固定，折算到每个实际使用小时，您的真实成本取决于使用率：

| 每月使用小时数 | 使用率 | 实际每 GPU 小时成本（单卡 H100） |
| --- | --- | --- |
| 730 | 100% | US$3.00 |
| 约 548 | 75% | US$4.00 |
| 365 | 50% | US$6.00 |
| 约 183 | 25% | US$12.00 |

如果您能以低于所在行数字的价格按小时购买 H100 算力，按小时计费更省钱；否则，按月计费更省钱。换句话说，盈亏平衡点就是 US$2,190 除以您需要支付的小时单价。根据 FullGPU 于 2026年10月对公开价目表的调研，过去一年 H100 按需价格（每 GPU 小时）的中位数上涨了约 13%；因此，为每个已付费月份锁定价格，还能消除一项预算风险。我们对 [2026年 H100 租用成本](https://fullgpu.com/zh/blog/h100-rental-cost-2026)的分析有更深入的介绍。

价格包含单卡每月 20 TB 出站流量（8 卡服务器为 50 TB），额度内不收取出站流量费；另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、工程师 7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议）。不收取开通费。

## 如何租用 NVIDIA H100 服务器

1. **您选择：**在[部署页面](https://fullgpu.com/zh/deploy)选定单卡 H100 或 HGX H100，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并在同一表单中免费创建账户或登录。
2. **您核对：**付款前显示的月价。
3. **您付款：**用预付余额支付首月费用；余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值，最高可获得 50% 赠送额度。银行卡支付即将推出。
4. **我们交付：**在付款后 10 分钟内开通 SSH root 权限，IP 地址和 SSH 登录信息显示在您的控制台中。

如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。交付后，套餐每月从余额自动续费，每次续费前都会提醒您；您也可以[在任意月份取消](https://fullgpu.com/zh/help/renewals-and-cancellation)，不收取任何费用。选型时，[显存计算器](https://fullgpu.com/zh/tools/vram-calculator)和上文各节可以帮您判断哪些模型装得下；拥有运行中服务器的客户，可以在控制台提交工单咨询批量价格。

## 常见问题

### H100 每月租用价格是多少？

单卡 H100 SXM 每月 US$2,190，满负荷使用时正好折合每 GPU 小时 US$3.00；8 卡 HGX H100 服务器每月 US$16,900，约合每 GPU 小时 US$2.89。不收取开通费，并且含流量。

### FullGPU 的 H100 是 SXM 版还是 PCIe 版？

是 SXM 版。根据 NVIDIA 公布的规格，它配备 80 GB HBM3 显存，显存带宽 3.35 TB/s；8 卡服务器中的 GPU 之间通过 NVLink 4 互联。单卡套餐在独享虚拟机中为您提供一整张 H100 SXM。

### 70B 模型能在单张 H100 上运行吗？

在 FP8 精度下，权重约占 70 GB，只能勉强装下，留给 KV 缓存的空间很少。若用于生产环境推理服务，请使用两张 H100、4 位量化，或配备 141 GB 显存的 H200。

### 2026年还值得租用 H100 吗？

对于 80 GB 装得下的模型，值得：它的厂商标称 FP8 和 BF16 算力与 H200 相同，软件支持成熟，而且是我们 Hopper GPU 中价格最低的。当显存成为瓶颈时，请选择 H200 或 B200。

### H100 多快能交付？

截至撰写本文时，H100 有现货；单卡 H100 和 HGX H100 服务器均在付款后 10 分钟内交付。如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。

### 长期租用有折扣吗？

拥有运行中服务器的客户可以申请 6 到 12 个月的长期价格或多台服务器的批量价格：请在控制台提交工单，注明数量和租期。

## 相关页面

- [H100 与 H200 对比：Hopper 算力相同，显存差异巨大](https://fullgpu.com/zh/compare/h100-vs-h200): H100 与 H200 对比：Hopper 算力相同，显存与带宽分别为 80 GB、3.35 TB/s 和 141 GB、4.8 TB/s。逐项比较单卡能装下什么、KV 缓存如何估算，以及每月费用。
- [H100 与 B200 对比：2026年还值得租用 H100 吗？](https://fullgpu.com/zh/compare/h100-vs-b200): H100 与 B200 对比：80 GB 对比 180 GB，3.35 TB/s 对比 8 TB/s，FP4 与 NVLink 5，价格 US$2,190/月对比 US$4,590/月。了解每个任务的成本，以及什么情况下 H100 仍是明智之选。
- [面向科研与高性能计算的 GPU 服务器，按固定月度预算租用](https://fullgpu.com/zh/solutions/research-hpc): 科研与高性能计算 GPU 服务器租用：H100、H200 和 MI355X，附厂商公布的 FP64 算力数据，支持 CUDA 或 ROCm，月度预算固定。根据您的代码选择合适的 GPU。
- [适合大模型微调的 GPU：从 QLoRA 到全参数微调](https://fullgpu.com/zh/solutions/fine-tuning): 为大模型微调选择合适的 GPU：本文给出 8B 至 70B 模型做 QLoRA、LoRA 和全参数微调所需的显存估算，覆盖 H100、H200 和 B200。下单前，先确认哪些配置装得下。
- [单卡 GPU 服务器租用：独享虚拟机中的整张 GPU](https://fullgpu.com/zh/products/single-gpu-servers): 单卡 GPU 服务器租用：一整张 GPU，运行在您独享的云虚拟机中，型号从 RTX 5090 到 B300 可选。提供 root 权限，每月含 20 TB 流量，按月计费，付款后 10 分钟内交付。
- [GPU 成本计算器：按月与按小时租用 GPU 对比](https://fullgpu.com/zh/tools/gpu-cost-calculator): 使用这款 GPU 成本计算器，比较按小时租用和按月租用 GPU 的费用：查看每月总费用、盈亏平衡所需的小时数，以及在做出决定之前应当计入的各项额外成本。
- [A100 与 H100 对比：有哪些变化，以及我们为何出租 H100](https://fullgpu.com/zh/compare/a100-vs-h100): A100 与 H100 对比：同为 80 GB 显存，H100 支持 FP8，带宽 3.35 TB/s 对比 2.0 TB/s，并采用 NVLink 4。我们出租 H100，不出租 A100。了解有哪些变化，以及谁还在用 A100。