租用 NVIDIA H100 SXM 服务器，每月 US$2,190 起

如果您想按月租用 NVIDIA H100 GPU，我们提供现货 SXM 版本：搭载单张 H100 的独享虚拟机，每月 US$2,190；或搭载 8 张 GPU 的 NVIDIA HGX H100 裸金属服务器，每月 US$16,900。每张 GPU 都是由您独享的完整物理 H100，无论使用率高低，价格都固定不变。

2026年的 H100 SXM：您能获得什么

H100 是 NVIDIA 首款 Hopper 架构 GPU。它为 NVIDIA 的数据中心产品线带来了 FP8 Tensor Core 和 Transformer 引擎；经过多年的生产环境使用，PyTorch、vLLM、SGLang 和 TensorRT-LLM 都已对它提供完善支持。NVIDIA 公布的 SXM 版规格为：FP8 稠密算力 1,979 TFLOPS，BF16 稠密算力 989 TFLOPS，配备 80 GB HBM3 显存，显存带宽 3.35 TB/s。如果您目前使用的是上一代 GPU，可以参阅我们的 H100 与 Ampere 架构的对比，了解有哪些变化。

比较报价时，SXM 这一细节很重要。SXM 是 NVIDIA HGX 基板采用的模组规格，每张 GPU 配备 900 GB/s 的 NVLink 4，功耗预算为 700 W；因此，请确认您比较的每个价格对应的都是同一版本。与同代的 H200 相比，H100 的厂商标称算力相同，但显存更小（80 GB 对比 141 GB），显存带宽也更低（3.35 TB/s 对比 4.8 TB/s）。对于 80 GB 装得下的工作负载，H100 也就成了性价比之选。

80 GB 显存能装下什么

按常规方法估算：权重约为参数量 × 每个参数的字节数（BF16 为 2 字节，FP8 为 1 字节，4 位为半个字节），再加上 KV 缓存和 10–30% 的余量。

• 推理 32B 以内的模型：BF16 精度的 8B 模型约占 16 GB，FP8 精度的 32B 模型约占 32 GB，两者都能为 KV 缓存留出数十 GB 空间。BF16 精度的 32B 模型（约 64 GB）在中等上下文长度下可装入单张 GPU；若上下文很长或并发请求很多，则需要改用 FP8 或增加第二张 GPU。
• 推理 70B 模型：FP8 精度下约 70 GB，单张 H100 只能勉强装下，留给 KV 缓存的空间很少。用于生产环境时，可以通过张量并行拆分到两张 H100 上、量化到 4 位（约 35 GB），或改用一张 H200。
• 单卡微调：对 70B 模型做 QLoRA（4 位权重约 35 GB，另加适配器和激活值），以及在 BF16 精度下对 8B–14B 模型做 LoRA，都能在单张 H100 上完成。
• 在 HGX H100 上做全参数微调：使用 Adam 优化器时，不计激活值，每个参数大约需要 16–20 字节，因此 8B 模型约需 128–160 GB，分布到 8 张 GPU、共 640 GB 显存上绰绰有余。70B 模型约需 1.1–1.4 TB，超出了这台服务器的 HBM3 容量：您需要把优化器状态卸载到服务器的 2 TB DDR5 内存中，或者改用 HGX B300。
• 超大模型：FP8 精度的 405B 级模型（约 405 GB）可以装入 HGX H100，还能留出约 200 GB 给 KV 缓存。FP8 精度的 671B 混合专家（MoE）模型则根本装不进 640 GB。

我们的 70B 模型微调指南对这几种方案做了更详细的比较。

单卡 H100，还是 8 卡 HGX H100 服务器？

单卡 H100 套餐包含 24 个 vCPU、225 GB 内存、2 TB NVMe 存储和一个 25 Gbps 网络端口。这一规格正适合：单个推理端点、一次运行一个微调任务、一门课程或一次概念验证。

HGX H100 是一台裸金属服务器：8 张 H100 SXM GPU 位于同一个 NVLink 域内，每张 GPU 的互联带宽为 900 GB/s；另配两颗 Xeon 8480+ 处理器（共 112 核）、2 TB DDR5 内存、8 块 3.84 TB NVMe 硬盘和 8 块 400G ConnectX-7 网卡。当一个任务需要多张 GPU 协同处理同一个模型时，就选它：例如用张量并行提供 70B 模型推理服务、分片训练，或运行多 GPU 科研代码。8 台单卡 H100 每月合计 US$17,520，而这台服务器每月 US$16,900，还多了 NVLink；如果是 1 到 7 张 GPU 上相互独立的工作，单卡套餐更省钱。

H100 服务器上的软件栈

每台服务器都提供 SSH root 权限，以及预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的 Ubuntu 22.04 或 24.04 镜像；Debian 或 Rocky Linux 可应要求提供。您可以直接拉取常用的容器开始工作。下面两条命令用于确认 GPU 可用，并持续观察其状态：

docker run --rm --gpus all pytorch/pytorch:latest \
  python -c "import torch; print(torch.cuda.get_device_name(0))"
nvidia-smi --query-gpu=memory.used,memory.total,utilization.gpu \
  --format=csv -l 5

第二条命令每 5 秒输出一次显存占用和利用率，可以快速看出您的任务是受显存限制，还是让 GPU 处于闲置状态。我们的 GPU 监控指南有更深入的介绍。

H100 租用价格：每月与每 GPU 小时

单卡 H100 每月 US$2,190，如果全月 730 小时都在运行，折合每 GPU 小时正好 US$3.00。HGX H100 每月 US$16,900，约合每 GPU 小时 US$2.89。由于价格固定，折算到每个实际使用小时，您的真实成本取决于使用率：

如果您能以低于所在行数字的价格按小时购买 H100 算力，按小时计费更省钱；否则，按月计费更省钱。换句话说，盈亏平衡点就是 US$2,190 除以您需要支付的小时单价。根据 FullGPU 于 2026年10月对公开价目表的调研，过去一年 H100 按需价格（每 GPU 小时）的中位数上涨了约 13%；因此，为每个已付费月份锁定价格，还能消除一项预算风险。我们对 2026年 H100 租用成本的分析有更深入的介绍。

价格包含单卡每月 20 TB 出站流量（8 卡服务器为 50 TB），额度内不收取出站流量费；另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、工程师 7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议）。不收取开通费。

如何租用 NVIDIA H100 服务器

1. 您选择：在部署页面选定单卡 H100 或 HGX H100，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并在同一表单中免费创建账户或登录。
2. 您核对：月价和承诺交付日期，两者都会在付款前显示。
3. 您付款：用预付余额支付首月费用；余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值，最高可获得 50% 赠送额度。银行卡支付即将推出。
4. 我们交付：在该日期前开通 SSH root 权限，IP 地址和 SSH 登录信息显示在您的控制台中。

如果我们未能按期交付，您可以取消订单，全额退款至余额。交付后，套餐每月从余额自动续费，每次续费前都会提醒您；您也可以在任意月份取消，不收取任何费用。选型时，显存计算器和上文各节可以帮您判断哪些模型装得下；拥有运行中服务器的客户，可以在控制台提交工单咨询批量价格。