租用 NVIDIA B300 与 HGX B300 服务器，每月 US$5,190 起

如果您想租用 NVIDIA B300 算力，又不想签一年期合同，我们提供两种选择：搭载单张 B300 的独享虚拟机，每月 US$5,190；或搭载 8 张 GPU 的 NVIDIA HGX B300 裸金属服务器，每月 US$39,900。无论哪种，每张 GPU 都是由您独享的完整物理 GPU，按月预付计费，最短期限为一个月。B300 库存有限；本页的配置卡片会显示目前有哪些配置可用。

B300 是什么，与 B200 相比有哪些变化

B300 是 NVIDIA 的 Blackwell Ultra GPU，是 Blackwell B200 的升级版。最主要的变化在于显存：每张 GPU 288 GB HBM3e，而 B200 的可用显存为 180 GB，容量多出 60%，带宽则相近，约为 8 TB/s。一块 HGX B300 基板搭载 8 张 B300，一台服务器即拥有约 2.3 TB HBM3e。

第二个变化是 FP4。NVIDIA 标称每张 B300 的 FP4 稠密算力为 13.5 PFLOPS，B200 为 9 PFLOPS；而 NVIDIA 为两者公布的 FP8 稠密算力（4.5 PFLOPS）和 BF16 稠密算力（2.25 PFLOPS）完全相同。GPU 之间仍通过第五代 NVLink 互联，每张 GPU 1.8 TB/s。简而言之，B300 物有所值的情形是：额外的显存能为您省下 GPU，或者您以 FP4 精度做推理或训练。如果两者都不符合，B200 能以更低的月价提供相同的厂商标称 FP8 和 BF16 算力。我们的 B200 与 B300 对比介绍了更多细节，FP8 与 FP4 精度指南则说明了在什么情况下降低精度对您的模型是安全的。

B300 的适用负载与显存估算

显存通常是决定性因素，所以先算一笔账。权重约为参数量 × 每个参数的字节数（BF16 为 2，FP8 为 1，FP4 为 0.5）。再加上 KV 缓存（它随上下文长度和并发请求数增长），并为激活值和运行时开销预留 10–30% 的余量。

推理

• BF16 精度的 70B 模型：权重约 140 GB。扣除余量后，一张 B300 仍有约 100 GB 或更多空间可用于 KV 缓存，因此可以用 BF16 精度提供长上下文推理服务。而在单张 141 GB 的 H200 上，同一模型无法在保留可用余量的情况下装下。
• FP8 精度的 70B 模型：约 70 GB，GPU 的大部分显存都可以留给 KV 缓存和高并发。
• FP8 精度的 671B 混合专家（MoE）模型，如 DeepSeek-V3：权重约 671 GB。仅权重就至少需要 3 张 B300；装入一台 HGX B300 服务器后，还剩远超 1 TB 的空间留给 KV 缓存。8 张 80 GB 的 GPU 则根本装不下这些权重。我们的 DeepSeek 硬件需求指南介绍了其他精度下的情况。

微调与训练

使用 Adam 优化器做全参数微调时，不计激活值，每个参数大约需要 16–20 字节。对 70B 模型来说，这约为 1.1–1.4 TB；用 FSDP 或 DeepSpeed ZeRO-3 将状态分片到全部 8 张 GPU 上后，一台 HGX B300 服务器的 2.3 TB 即可容纳，还剩约 0.9–1.2 TB 留给激活值。在单张 B300 上，可以在 BF16 精度下对 70B 模型做 LoRA：约 140 GB 的冻结权重，加上小型适配器和激活值，仍远低于 288 GB。

对于预训练，关键是让 GPU 连续数周保持忙碌。按月租用的服务器会在整个训练期间把您的数据、检查点和环境保存在本地 NVMe 上（8 块 3.84 TB 硬盘，约 30 TB），而且不会被抢占。如需为其他模型做这样的估算，请使用我们的显存计算器。

单卡 B300，还是 8 卡 HGX B300 服务器？

如果一个模型能装进 288 GB，并且您通过增加相互独立的副本来扩展（推理副本、LoRA 训练、评测任务），请选择单卡 B300。该套餐包含 28 个 vCPU、384 GB 内存、3.5 TB NVMe 存储和一个 25 Gbps 网络端口。

如果单个任务必须跨多张 GPU 运行，请选择 HGX B300 服务器。8 张 GPU 位于同一个 NVLink 域内，每张 GPU 的互联带宽为 1.8 TB/s，这正是张量并行和分片训练所需要的；如果把同一个模型拆分到多台机器上，每一层都要等待慢得多的网络链路。服务器另配两颗 Xeon 6776P 处理器（共 128 核）、用于数据加载和 CPU 卸载的 4 TB DDR5 内存，以及 8 块用于多节点任务的 800G ConnectX-8 网卡。

一旦需要 8 张 GPU，成本也指向同一个结论：8 个单卡 B300 套餐每月合计 US$41,520，而一台 HGX B300 服务器为 US$39,900。7 个以内的单卡套餐比这台服务器便宜，但它们是彼此独立的机器，之间没有 NVLink。如果一个节点还不够，机架级的 GB300 NVL72 将 72 张 Blackwell Ultra GPU 置于同一个 NVLink 域中。

B300 服务器上的软件

您可以用自己的密钥通过 SSH 获得 root 权限，系统为 Ubuntu 22.04 或 24.04，预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit。Debian 或 Rocky Linux 可应要求提供。常见的选择是用 PyTorch 做训练，用 vLLM、SGLang 或 TensorRT-LLM 提供推理服务，通常都在容器中运行，因此您在别处已经使用的环境可以打包成镜像迁移过来。在 HGX B300 上的第一次会话大致如下：

nvidia-smi              # eight GPUs, driver and CUDA versions
nvidia-smi topo -m      # how the GPUs are connected (NVLink)
docker run --gpus all --ipc=host -p 127.0.0.1:8000:8000 \
  vllm/vllm-openai:latest \
  --model <your-model> --tensor-parallel-size 8

将推理端点绑定到 localhost，再通过 SSH 隧道访问，可以在您加上自己的鉴权机制之前，避免它暴露在公网上。在围绕 FP4 规划部署规模之前，请确认您的框架版本和模型检查点在 Blackwell Ultra 上支持 FP4。如需在全部 8 张 GPU 上训练，请参阅使用 NCCL 进行多 GPU 训练。

NVIDIA B300 价格：每月与每 GPU 小时

• HGX B300，8 卡 每月 US$39,900，约合每 GPU 小时 US$6.83
• 单卡 B300 每月 US$5,190，约合每 GPU 小时 US$7.11

每 GPU 小时价格是用月价除以 GPU 数量，再除以 730 小时得出的，因此它假设 GPU 全天候运转。要与按小时计费比较，请用我们的月价除以您在别处需支付的小时单价：结果就是每月使用小时数的临界值，超过这个值，固定月价就更省钱。例如，如果按小时租用 B300 的价格是我们折算单价的 1.5 倍，单卡套餐在使用约 487 小时（即当月的三分之二）后就更划算。如果只是两天的实验，按小时计费更合适；如果服务器在一个月的大部分时间里都在训练或提供推理服务，则按月计费更合适。我们的按月与按小时计费对比分析了更多情形。

价格包含服务器本身、8 卡服务器每月 50 TB 出站流量（单卡为 20 TB），额度内不收取出站流量费；另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、工程师 7×24 小时支持，以及附带服务赔偿额度的 99.9% 月度可用性 SLA（服务等级协议）。不收取开通费。价格以美元计，不含增值税及其他税费（如适用）。拥有运行中的服务器后，您可以提交工单，咨询 6–12 个月租期或多台服务器的批量价格。

订购流程

1. 在部署页面选择您需要的配置，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），并免费创建账户或登录，全部在同一表单中完成。
2. 您用预付余额支付首月费用；余额通过加密货币（BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL）充值，每笔 US$100 至 US$10,000，每满 US$100 可获得 +5% 赠送额度，US$1,000 起最高 +50%。如果余额不足，可在同一表单中充值：订单会保留 3 小时，充值到账后即自动完成支付。银行卡支付即将推出。
3. SSH root 权限会在付款后 10 分钟内开通，IP 地址和 SSH 登录信息显示在您的控制台中。

如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。续费每月自动从余额中扣除，每笔付款都会开具账单。大多数订单只需要账户和已充值的余额；大额订单（例如多台 8 卡服务器）可能需要先完成身份验证。下单前如需选型，请使用显存计算器以及本页链接的各篇指南。