# 租用 NVIDIA H200 与 HGX H200 服务器，每月 US$3,090 起

> 租用独享 NVIDIA H200（141 GB）：单卡 US$3,090/月（全天候满载约合每 GPU 小时 US$4.23），8 卡 HGX H200 US$23,900/月。固定月价，使用加密货币支付。

来源：https://fullgpu.com/zh/gpus/nvidia-h200  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

**简而言之：** FullGPU 按月出租 NVIDIA H200：一张独享的 H200（141 GB HBM3e），每月 US$3,090，满载使用时约合每 GPU 小时 US$4.23；或一台 8 卡 NVIDIA HGX H200 服务器（8 × 141 GB HBM3e），每月 US$23,900，约合每 GPU 小时 US$4.09。两种配置均有现货，付款后 10 分钟内交付。费用从以美元计价的余额中支付，余额可用 Bitcoin、Ethereum、Monero、USDT（TRC-20）或 Solana 充值；无开通费，套餐可在任何一次月度续费前取消。

## FullGPU 的 H200 配置与月价

| 配置 | 类型 | 显存 | CPU | 内存 | 存储 | 网络 | 每月价格（美元） | 每 GPU 小时 | 供货情况 |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [NVIDIA H200](https://fullgpu.com/zh/gpus/nvidia-h200) | 单卡 | 141 GB HBM3e | 24 vCPU | 240 GB | 2 TB NVMe | 25 Gbps | US$3,090 | US$4.23 | 现货，付款后10 分钟内交付 |
| [8× NVIDIA HGX H200](https://fullgpu.com/zh/gpus/nvidia-h200) | 8 卡服务器 | 8 × 141 GB HBM3e | 2× Xeon 8480+ · 112 核 | 2 TB DDR5 | 8× 3.84 TB NVMe | 8× 400G ConnectX-7 | US$23,900 | US$4.09 | 现货，付款后10 分钟内交付 |

每 GPU 小时 = 月价 ÷ GPU 数量 ÷ 730 小时，仅用于与按小时计费的方案对比：所有套餐均按固定月价计费。

## NVIDIA H200 规格（厂商公布）

| 规格项 | 参数值 | 备注 |
| --- | --- | --- |
| 架构 | Hopper | NVIDIA |
| 显存 | 141 GB HBM3e |   |
| 显存带宽 | 4.8 TB/s |   |
| FP4 | — | 不支持 |
| FP8 | 1,979 TFLOPS | 稀疏算力 3,958 TFLOPS |
| BF16 / FP16 | 989 TFLOPS | 稀疏算力 1,979 TFLOPS |
| GPU 互联 | NVLink 4 · 900 GB/s | 每 GPU |
| 外形规格 | SXM 模组 · HGX H200 |   |
| 最大功耗 | 700 W |   |

## H200 最擅长什么

- **FP8 精度的 70B 模型推理:** 权重约 70 GB，单张 GPU 上还剩约 50 至 60 GB 可用于 KV 缓存。
- **长上下文推理服务:** 70B 模型的 128k token 上下文，可以与其 FP8 权重一起装入一张 H200。
- **微调:** 在单卡上对 70B 模型做 QLoRA，在 8 卡服务器上对 30B 级模型做全参数微调。
- **单节点运行大模型:** 8 张 GPU 共有 1.1 TB HBM3e，可容纳 FP8 精度的 671B 混合专家模型。

## 何时选择其他 GPU 更合适

- [租用 NVIDIA H100 SXM 服务器，每月 US$2,190 起](https://fullgpu.com/zh/gpus/nvidia-h100): 如果您的模型装进 80 GB 后仍有 KV 缓存空间，H100 的厂商标称算力相同，每月 US$2,190。
- [租用 NVIDIA B200 与 HGX B200 服务器，每月 US$4,590 起](https://fullgpu.com/zh/gpus/nvidia-b200): 当您需要每张 GPU 180 GB 显存、FP4，或在训练中需要 NVIDIA 为 Blackwell 标称的更高算力时。
- [租用 8 卡 AMD MI355X 服务器，每月 US$19,900](https://fullgpu.com/zh/gpus/amd-mi355x): 如果您的软件栈运行在 ROCm 上，并且想要一台每张 GPU 配备 288 GB 显存的 8 卡服务器，每月 US$19,900。

## 概览

租用 NVIDIA H200 算力的主要理由是显存：每张 GPU 配备 141 GB HBM3e，足以在单卡上以 FP8 精度提供 70B 模型推理服务，而且还有富余。我们提供现货 H200：搭载单张 GPU 的独享虚拟机，每月 US$3,090，是我们最受欢迎的单卡套餐；以及搭载 8 张 GPU 的 HGX H200 裸金属服务器，每月 US$23,900。

## 与 H100 相比，H200 多了什么

H200 与 H100 采用相同的 Hopper GPU 设计。NVIDIA 为两者标称的算力完全相同（FP8 稠密算力 1,979 TFLOPS，BF16 稠密算力 989 TFLOPS），NVLink 4 同样为每张 GPU 900 GB/s，同样采用 700 W 的 SXM 模组规格。区别在于显存：141 GB HBM3e，而非 80 GB HBM3（多 76%）；带宽为 4.8 TB/s，而非 3.35 TB/s（高 43%）。

这一点对推理影响最大。每生成一个 token，GPU 都要从显存中读取模型权重，因此带宽决定了解码（decode）速度的上限；而没有被权重占用的每 1 GB 显存，都可以用来存放 KV 缓存，以支持更多并发请求或更长的上下文。对于受算力限制的工作，例如训练一个在 80 GB 中就能轻松装下的模型，两者的差距会缩小，H100 可能更具性价比。我们的 [H100 与 H200 对比](https://fullgpu.com/zh/compare/h100-vs-h200)分别分析了这两种情况。

## 一张 H200 能装下什么，8 张又能装下什么

权重大约需要每个参数 2 字节（BF16）或 1 字节（FP8）；再加上 KV 缓存和 10–30% 的余量。

- **在一张 H200 上运行 FP8 精度的 70B 模型：**权重约 70 GB，扣除余量后还剩约 50–60 GB 可用于 KV 缓存。正是这些余量，让单张 H200 能够实际用于生产环境的 70B 推理端点。
- **长上下文：**采用分组查询注意力（GQA）的类 Llama 架构 70B 模型（80 层，8 个 KV 头，每个头的维度为 128），在 BF16 精度下每个 token 约需 0.33 MB KV 缓存。因此，一个 128k token 的上下文约为 43 GB，可以与 FP8 权重一起装入 H200，但装不进 80 GB 的 GPU。
- **BF16 精度的 70B 模型：**约 140 GB，对一张 H200 来说过于勉强。请通过张量并行使用 HGX H200 中的两张 GPU，或改用 180 GB 的 B200。
- **HGX H200，共 1.1 TB：**FP8 精度的 405B 级模型（约 405 GB）还能留出约 700 GB 给 KV 缓存；FP8 精度的 671B 混合专家（MoE）模型（约 671 GB）也装得下，还剩约 450 GB。

在微调方面，对 70B 模型做 QLoRA（4 位权重约 35 GB）可以在一张 H200 上轻松运行；而在 BF16 精度下对 70B 模型做 LoRA，单张 GPU 装不下，因为仅冻结权重就约占 140 GB。使用 Adam 做全参数微调时，不计激活值，每个参数大约需要 16–20 字节：32B 模型约需 512–640 GB，HGX H200 可以胜任；70B 模型则约需 1.1–1.4 TB，超出了它的 HBM3e 容量，除非您把优化器状态卸载到 2 TB 的系统内存中。您可以用我们的[显存计算器](https://fullgpu.com/zh/tools/vram-calculator)试算其他规模。

## 单卡 H200，还是 HGX H200 服务器？

单卡 H200 配备 24 个 vCPU、240 GB 内存、2 TB NVMe 存储和一个 25 Gbps 网络端口。它适合这样的团队：每张 GPU 为一个模型提供推理服务，并通过增加副本来扩展；或者用 LoRA 和 QLoRA 做微调。

HGX H200 将 8 张 GPU 连接在同一个 NVLink 域内，每张 GPU 的互联带宽为 900 GB/s，因此您可以用张量并行拆分模型，或将训练状态分片到全部 8 张 GPU 上，完全不经过网络。服务器配备两颗 Xeon 8480+ 处理器（共 112 核）、2 TB DDR5 内存、8 块 3.84 TB NVMe 硬盘和 8 块 400G ConnectX-7 网卡。在 8 张 GPU 的规模下，它也比单卡套餐更便宜：每月 US$23,900，而 8 台单卡 H200 每月合计 US$24,720。

## 软件：成熟的 Hopper 软件栈

Hopper GPU 自 2023年起就已广泛部署，因此 vLLM、SGLang 和 TensorRT-LLM 对 FP8 的支持已经很成熟。服务器交付时即提供 SSH root 权限，系统为 Ubuntu 22.04 或 24.04，并预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit；Debian 或 Rocky Linux 可应要求提供。在一张 H200 上从 FP8 检查点加载 70B 模型、并使用 FP8 KV 缓存提供推理服务，命令如下：

```
vllm serve <your-70b-fp8-checkpoint> --kv-cache-dtype fp8 \
  --max-model-len 131072 --host 127.0.0.1 --port 8000
```

以 FP8 存储 KV 缓存可使其大小减半，在相同显存中能容纳的上下文长度或并发量也因此大约翻倍。我们的[使用 vLLM 自托管大语言模型（LLM）推理](https://fullgpu.com/zh/blog/self-host-llm-inference-vllm)指南介绍了生产环境配置，[如何为 LLM 推理选择 GPU](https://fullgpu.com/zh/blog/best-gpu-for-llm-inference) 一文则对各种选择做了比较。

## H200 价格：每月与每 GPU 小时

- **单卡 H200:** 每月 US$3,090，约合每 GPU 小时 US$4.23
- **HGX H200，8 卡:** 每月 US$23,900，约合每 GPU 小时 US$4.09

小时价是用月价除以 GPU 数量，再除以 730 小时得出的，因此只有当 GPU 全月运行时才成立。全天候运行的推理端点正是如此，此时固定的 US$3,090 月价就取代了按用量计费。如果推理端点只在工作时间运行，每月约 220 小时，那么按月套餐折算下来每个实际使用小时约 US$14.05，此时按小时计费很可能是更好的选择。一般规则是：用我们的月价除以您在别处需要支付的小时单价，使用时间超过这个小时数，按月计费就更划算。我们的[按月与按小时计费对比](https://fullgpu.com/zh/compare/monthly-vs-hourly-gpu-pricing)详细展示了计算过程。

价格也一直在变动。根据 FullGPU 于 2026年10月对公开价目表的调研，过去一年 H200 按需价格（每 GPU 小时）的中位数上涨了约 27%。按月套餐会为每个已付费月份锁定价格。套餐包含出站流量，不收取出站流量费（单卡每月 20 TB，8 卡服务器每月 50 TB，遵循[合理使用](https://fullgpu.com/zh/help/bandwidth-and-egress)原则），另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议）。不收取开通费。

## 如何租用 NVIDIA H200 服务器

在[部署页面](https://fullgpu.com/zh/deploy)选择您需要的套餐，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并在同一表单中免费创建账户或登录。随后，您用预付余额支付首月费用；余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值，汇率会在限定时间内锁定，最高可获得 50% 赠送额度；银行卡支付即将推出。SSH root 权限会在付款后 10 分钟内开通，IP 地址和 SSH 登录信息显示在您的控制台中。如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。套餐每月从余额自动续费，并会发送邮件提醒；任何月份均可免费取消。如需多台服务器的批量价格或 6–12 个月的长期价格，拥有运行中服务器的客户可以在控制台提交工单咨询。

## 常见问题

### H200 每月价格是多少？

单卡 H200 每月 US$3,090，8 卡 HGX H200 服务器每月 US$23,900，满负荷使用时分别约合每 GPU 小时 US$4.23 和 US$4.09。价格固定，不收取开通费，并且含流量。

### H200 与 H100 有什么区别？

NVIDIA 为两者标称的 FP8 和 BF16 算力相同。H200 的显存为 141 GB 而非 80 GB，带宽为 4.8 TB/s 而非 3.35 TB/s，这有利于受显存限制的工作，例如大批次或长上下文的 LLM 推理。

### 能在单张 H200 上运行 70B 模型吗？

在 FP8 精度下可以：权重约占 70 GB，扣除余量后还剩约 50 至 60 GB 可用于 KV 缓存。在 BF16 精度下，仅权重就约占 140 GB，对一张 H200 来说过于勉强。

### H200 有现货吗？

有。截至撰写本文时，单卡 H200 和 HGX H200 均有现货。两者均在付款后 10 分钟内交付；如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。

### 可以取消 H200 租用吗？

可以，任何月份都能取消，不收取取消费用。服务器会一直运行到已付费月份结束，之后其磁盘会被安全擦除。

### 多个单卡 H200 套餐之间可以互相通信吗？

可以，通过您的服务器之间的私有网络实现，可应要求开通。如果任务需要 GPU 之间的 NVLink，请改选 HGX H200。

## 相关页面

- [H200 与 B200 对比：下一台 GPU 服务器该选 Hopper 还是 Blackwell？](https://fullgpu.com/zh/compare/h200-vs-b200): H200 与 B200 对比：141 GB 对比 180 GB，4.8 TB/s 对比 8 TB/s，FP4 与 NVLink 5。了解各自能装下什么、每月多花 US$1,500 能换来什么，以及何时 H200 更划算。
- [MI355X 与 H200 对比：双倍显存，还是久经考验的软件栈？](https://fullgpu.com/zh/compare/mi355x-vs-h200): MI355X 与 H200 对比：MI355X 每张 GPU 的显存是 H200 的两倍，并原生支持 FP4；H200 则拥有成熟的 Hopper 与 CUDA 软件栈。比较两者各能装下哪些模型、互联方式和每月成本。
- [大模型推理 GPU 服务器：7×24 小时运行，价格固定](https://fullgpu.com/zh/solutions/inference): 大模型推理 GPU 服务器，可运行 vLLM、SGLang 或 TensorRT-LLM：本文介绍 KV 缓存估算以及 FP8 与 FP4 的选择，价格含每月 20–50 TB 流量。查看完整的选型计算。
- [适合大模型微调的 GPU：从 QLoRA 到全参数微调](https://fullgpu.com/zh/solutions/fine-tuning): 为大模型微调选择合适的 GPU：本文给出 8B 至 70B 模型做 QLoRA、LoRA 和全参数微调所需的显存估算，覆盖 H100、H200 和 B200。下单前，先确认哪些配置装得下。
- [单卡 GPU 服务器租用：独享虚拟机中的整张 GPU](https://fullgpu.com/zh/products/single-gpu-servers): 单卡 GPU 服务器租用：一整张 GPU，运行在您独享的云虚拟机中，型号从 RTX 5090 到 B300 可选。提供 root 权限，每月含 20 TB 流量，按月计费，付款后 10 分钟内交付。
- [使用 vLLM 部署 LLM 推理服务](https://fullgpu.com/zh/docs/pytorch-vllm): 在您的 GPU 服务器上用 vLLM 部署 LLM 推理服务：用 uv 配置 Python 环境，安装 PyTorch 和 vLLM，测试兼容 OpenAI 的 API，再将其作为系统服务长期运行。