租用 NVIDIA B200 与 HGX B200 服务器，每月 US$4,590 起

如果您想租用 NVIDIA B200 GPU 来运行训练任务或部署生产环境推理端点，我们有两种现货规格：搭载单张 B200 的独享虚拟机，每月 US$4,590；以及搭载 8 张 GPU 的 NVIDIA HGX B200 裸金属服务器，每月 US$34,900。每张 GPU 都是完整的整卡，由您独享，不切分，也不分时共享；整月价格固定不变。

与 Hopper 相比，B200 带来了哪些变化

B200 是继 NVIDIA Hopper 架构的 H100 和 H200 之后推出的 Blackwell 数据中心 GPU。与 H200 相比，NVIDIA 公布的数据显示出四项变化：

• 显存：每张 GPU 配备 180 GB HBM3e，而非 141 GB；带宽为 8 TB/s，而非 4.8 TB/s，约为后者的 1.7 倍。
• 算力：FP8 稠密算力 4.5 PFLOPS，BF16 稠密算力 2.25 PFLOPS，约为 Hopper（1,979 和 989 TFLOPS）的 2.3 倍。
• FP4：稠密算力 9 PFLOPS，而 Hopper 在硬件上不支持这种格式。
• NVLink 5：每张 GPU 1.8 TB/s，是 NVLink 4（900 GB/s）的两倍。

选型时有一个细节需要注意：B200 封装上物理搭载了 192 GB HBM3e，但 HGX B200 系统标称的容量是每张 GPU 180 GB，因此请按 180 GB 规划。如需逐项对比，请参阅我们的 H200 与 B200 对比。

B200 的适用负载与显存估算

简便规则：权重大约需要每个参数 2 字节（BF16）、1 字节（FP8）或 0.5 字节（FP4），再加上 KV 缓存和 10–30% 的余量。套用到 B200 上：

模型推理服务

• BF16 精度的 70B 模型：约 140 GB，单张 GPU 上还剩约 40 GB 用于 KV 缓存和运行开销。这足以支持中等的上下文长度和并发量；而在 141 GB 的 H200 上则做不到。
• FP8 精度的 70B 模型：约 70 GB，因此还有约 110 GB 可用于 KV 缓存，意味着每张 GPU 可以处理更多并发请求或更长的上下文。
• FP8 精度的 405B 级模型：约 405 GB，超出两张 B200 的容量，但一台 HGX B200 服务器（1.44 TB）可以运行它，还剩约 1 TB 留给 KV 缓存。即使采用 BF16 精度（约 810 GB），也仍然装得下。

训练与微调

使用 Adam 做全参数微调时，不计激活值，每个参数大约需要 16–20 字节。因此 32B 模型约需 512–640 GB，将状态分片到 8 张 GPU 上后，一台 HGX B200 可以轻松容纳。70B 模型约需 1.1–1.4 TB，已接近这台服务器 1.44 TB 的上限：借助 CPU 卸载，利用 2 TB DDR5 内存可以完成，但 HGX B300（2.3 TB）或两台服务器才能提供真正的余量。在 BF16 精度下对 70B 模型做 LoRA，可以在单张 B200 上完成，约有 40 GB 留给适配器和激活值；只要序列长度和批大小保持适中，就足够了。

我们的 70B 模型微调指南比较了这些方案，大语言模型（LLM）需要多少显存一文则解释了计算中 KV 缓存的部分。

单卡 B200，还是 HGX B200 服务器？

单卡 B200 配备 26 个 vCPU、256 GB 内存、2.75 TB NVMe 存储和一个 25 Gbps 网络端口。它适合每张 GPU 运行一个模型：FP8 精度的 70B 推理端点、一次 LoRA 训练、一条评测流水线。需要扩展时，增加单卡套餐即可。

当一个模型或任务需要跨多张 GPU 时，就该选择 HGX B200 服务器。它的 8 张 B200 位于同一个 NVLink 域内，每张 GPU 的互联带宽为 1.8 TB/s，因此在全部 8 张 GPU 上做张量并行切实可行，分片训练中的梯度同步也完全不经过网络。与之搭配的是两颗 Xeon 8570 处理器（共 112 核）、2 TB DDR5 内存、8 块 3.84 TB NVMe 硬盘和 8 块 400G ConnectX-7 网卡。

价格也遵循同样的逻辑。8 个单卡 B200 套餐每月合计 US$36,720，而 HGX B200 为 US$34,900；因此在 8 张 GPU 的规模下，服务器更便宜，还多了 NVLink。在 7 张 GPU 以内，只要您的工作负载不需要 GPU 之间互联，分开租用单卡套餐更省钱。

在 B200 上运行 PyTorch 和 vLLM

服务器提供 SSH root 权限，系统为 Ubuntu 22.04 或 24.04，已预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit；Debian 或 Rocky Linux 可应要求提供。Blackwell 需要较新的框架版本，因此请使用当前版本的 PyTorch、vLLM、SGLang 或 TensorRT-LLM，最好通过锁定版本号的容器镜像来运行。下面是检查互联和启动 8 卡训练的典型命令：

nvidia-smi topo -m                             # NVLink between all eight GPUs
NCCL_DEBUG=INFO torchrun --nproc_per_node=8 train.py

设置 NCCL_DEBUG=INFO 后，NCCL 会记录它建立的传输通道，借此可以快速确认流量走的是 NVLink。我们关于 PyTorch 与 vLLM 和多 GPU NCCL 配置的文档有更深入的介绍。

NVIDIA B200 价格：每月与每 GPU 小时

• HGX B200，8 卡 每月 US$34,900，约合每 GPU 小时 US$5.98
• 单卡 B200 每月 US$4,590，约合每 GPU 小时 US$6.29

小时折算价的算法是：月价除以 GPU 数量，再除以 730 小时。对于 8 卡服务器，与按小时计费相比的盈亏平衡点，是 US$34,900 除以您在别处需支付的每 GPU 小时单价的 8 倍。换算成使用率：如果该单价是我们 US$5.98 的 1.25 倍，那么只要服务器的使用时间超过当月的 80%（约 584 小时），按月计费就更划算；如果是我们单价的两倍，超过 50%（365 小时）即可。如果您只需要用几天 B200，按小时计费更合适。

另一个理由是可预期性。根据 FullGPU 于 2026年10月对公开价目表的调研，过去一年 B200 按需价格（每 GPU 小时）的中位数上涨了约 20%。选择按月计费的套餐，每个已付费月份的价格都是固定的；今后月份如有任何价格调整，都会至少提前 30 天通知。每个套餐都包含每月 20 TB（单卡）或 50 TB（8 卡）出站流量，不收取出站流量费；另含公网 IPv4 和一个 IPv6 /64 网段、DDoS 防护、7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议），且不收取开通费。有关供应形势的更多背景，请参阅我们对 2026年 GPU 短缺的分析。

从下单到获得 root 权限

只需一张表单即可部署 B200 服务器：选择配置，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并免费创建账户或登录。承诺交付日期会在付款前显示，在您支付首月费用之前，一切都不具约束力。您使用以美元计价的预付余额付款，余额通过加密货币充值（查看支持的币种），并可获得最高 50% 的赠送额度，每笔付款都附有账单；银行卡支付即将推出。如果余额不足，可在同一表单中充值：订单会保留 72 小时，充值到账后即自动完成支付。SSH root 权限会在显示的日期前开通，IP 地址和 SSH 登录信息显示在您的控制台中。如果我们未能按期交付，您可以取消订单，全额退款至余额。如需批量价格或 6–12 个月的长期价格，拥有运行中服务器的客户可以在控制台提交工单咨询。