# GB300 NVL72 租用，每 GPU·月 US$7,990 起 > GB300 NVL72 租用：US$7,990/GPU·月起（约合每 GPU 小时 US$10.95），租期为 12–36 个月；72 张 Blackwell Ultra GPU 全部位于同一个 NVLink 域内。欢迎立即提交预订申请。 来源：https://fullgpu.com/zh/gpus/nvidia-gb300-nvl72 更新日期：2026-10-22 发布方：FullGPU (https://fullgpu.com/) **简而言之：** FullGPU 按 12–36 个月期限出租 NVIDIA GB300 NVL72：单个机架含 72 张 GPU，每张配备 288 GB HBM3e，每 GPU 每月 US$7,990 起（约合每 GPU 小时 US$10.95）。预订在线提交，在 FullGPU 确认价格和交付时间窗口之前不收取任何费用。 ## FullGPU 的 GB300 NVL72 配置与月价 | 配置 | 类型 | 显存 | CPU | 内存 | 存储 | 网络 | 每月价格（美元） | 每 GPU 小时 | 供货情况 | | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | | [NVIDIA GB300 NVL72](https://fullgpu.com/zh/gpus/nvidia-gb300-nvl72) | 机架级 | 72 × 288 GB HBM3e | 36× NVIDIA Grace | 17 TB LPDDR5X | 每个托盘配备 NVMe，容量按订单配置 | NVLink 5 · 72× 800G | 每 GPU 每月 US$7,990 起 | US$10.95 | 按申请供货，需预订 | 每 GPU 小时 = 月价 ÷ GPU 数量 ÷ 730 小时，仅用于与按小时计费的方案对比：所有套餐均按固定月价计费。 ## NVIDIA GB300 NVL72 规格（厂商公布） | 规格项 | 参数值 | 备注 | | --- | --- | --- | | 架构 | Blackwell Ultra | NVIDIA | | 显存 | 288 GB HBM3e | NVIDIA 标称每个机架 20 TB GPU 显存（每 GPU ≈277 GB），另有 Grace CPU 上的 17 TB LPDDR5X。 | | 显存带宽 | 8 TB/s | | | FP4 | 15,000 TFLOPS | 稀疏算力 20,000 TFLOPS | | FP8 | 5,000 TFLOPS | 稀疏算力 10,000 TFLOPS | | BF16 / FP16 | 2,500 TFLOPS | 稀疏算力 5,000 TFLOPS | | GPU 互联 | NVLink 5 · 1.8 TB/s | 72 卡 NVLink 域，每机架 130 TB/s | | 外形规格 | Grace Blackwell 机架 · 液冷 | | | 最大功耗 | 按机架计 | | ## GB300 NVL72 最擅长什么 - **前沿规模训练:** 接近万亿参数的模型，其分片训练状态可以完全留在同一个 NVLink 域内。 - **大规模专家并行:** 混合专家模型可以分布到数十张 GPU 上，而无需在每一层都经过网络。 - **一套 72 卡系统:** 72 张 Blackwell Ultra GPU 和 36 颗 Grace CPU，作为单个液冷机架统一运行。 - **大规模推理:** 约 20 TB HBM3e，可承载万亿参数级模型和超大 KV 缓存。 ## 何时选择其他 GPU 更合适 - [租用 NVIDIA B300 与 HGX B300 服务器，每月 US$5,190 起](https://fullgpu.com/zh/gpus/nvidia-b300): 如果每个任务都能在 8 张 GPU 内完成，HGX B300 服务器按 GPU 计成本更低，且一个月起租。 - [租用 NVIDIA Vera Rubin NVL72：预订机架级算力](https://fullgpu.com/zh/gpus/nvidia-vera-rubin-nvl72): 如果您的时间安排允许等待下一代产品，可以预订 Vera Rubin NVL72 算力。 - [租用 NVIDIA B200 与 HGX B200 服务器，每月 US$4,590 起](https://fullgpu.com/zh/gpus/nvidia-b200): 适用于 8 张 180 GB GPU 就能容纳的训练和推理任务，现在即可按月租用。 ## 概览 租用 GB300 NVL72，您将获得一个液冷机架中的 72 张 NVIDIA Blackwell Ultra GPU 和 36 颗 Grace CPU，全部位于同一个 NVLink 域内。我们的租期为 12 至 36 个月，每 GPU 每月 US$7,990 起。本页介绍这套系统是什么、哪些人真正需要它，以及在什么情况下，租用多台 HGX B300 服务器更划算。 ## GB300 NVL72 是什么 GB300 NVL72 是 NVIDIA 的机架级 Blackwell Ultra 系统。它不再是每台服务器 8 张 GPU，而是通过 NVLink 交换机把 72 张 GPU 连成一个域；根据 NVIDIA 公布的数据，NVLink 总带宽为 130 TB/s。NVIDIA 标称每个机架配备 20 TB HBM3e，即每张 GPU 约 277 GB（B300 模组最高 288 GB），每张 GPU 的显存带宽为 8 TB/s。36 颗 Grace CPU 各与两张 GPU 配对，合计另提供 17 TB LPDDR5X 内存。 按单张 GPU 计，NVIDIA 为 GB300 NVL72 标称的算力为：FP4 稠密算力 15 PFLOPS、FP8 稠密算力 5 PFLOPS、BF16 稠密算力 2.5 PFLOPS，略高于它为 HGX 服务器中的 B300 标称的数据（13.5、4.5 和 2.25 PFLOPS）。机架采用液冷，由我们托管，因此您无需为它专门建设机房，即可获得这些算力。 ## 谁需要整机架，而不是 HGX B300 服务器 72 张 GPU 也可以是 9 台 HGX B300 服务器。这些 GPU 同属 Blackwell Ultra 家族，单卡显存也相近；区别在于它们之间如何通信。 ### 带宽差距 在 HGX B300 服务器内部，每张 GPU 拥有 1.8 TB/s 的 NVLink 带宽，但只连向另外 7 张 GPU。服务器之间的流量要经过网络：每台服务器 8 块 800G 网卡，即每张 GPU 800 Gb/s（100 GB/s）。在 GB300 NVL72 中，每张 GPU 与其余全部 71 张 GPU 之间都保有 1.8 TB/s 的 NVLink 带宽，约为 HGX 服务器上每张 GPU 跨网络带宽的 18 倍。 ### 需要整机架的工作负载 - **大规模专家并行：**大型混合专家（MoE）模型的专家分布在数十张 GPU 上，每个 MoE 层都要以 all-to-all 方式交换 token。在 72 卡 NVLink 域中，这些流量完全不经过网络。 - **前沿规模训练：**使用 Adam 进行完整训练时，不计激活值，每个参数大约需要 16–20 字节，因此一万亿参数的模型约需 16–20 TB，差不多就是整个机架的全部 HBM3e。若使用 HGX B300 服务器，同样的状态需要分布在通过网络互联的 7 到 9 台服务器上。 - **超过 8 张 GPU 的张量并行或流水线并行**，其中每一步需要同步的 GPU 都多于一台 HGX 服务器所能容纳的数量。 ### 何时 HGX B300 服务器是更好的选择 如果每个任务都能在 8 张 GPU 内完成，机架的 NVLink 域就派不上用场。这涵盖了大多数微调，以及数千亿参数以内模型的推理：FP8 精度的 671B 模型可以装入一台 HGX B300 服务器。数据并行训练中，每个副本都能装进一台服务器，只有梯度需要跨网络传输，因此对这一差距的敏感度要低得多。在这些情况下，[HGX B300 服务器](https://fullgpu.com/zh/gpus/nvidia-b300)按 GPU 计成本更低（按每台 US$39,900 计，每 GPU 每月 US$4,987.50），一个月起租，并可视库存情况逐台增加。 ## 机架规模下的显存估算 对推理而言，单凭容量很少成为选择整机架的理由。FP8 精度的一万亿参数模型约需 1 TB 权重，这在一台配备 2.3 TB 显存的 HGX B300 服务器上就已经装得下。机架带来的，是以超大 KV 缓存和高并发为这类模型提供推理服务的空间，以及把它们分布到众多 GPU 上所需的带宽。约 20 TB 的 HBM3e 装下 FP8 精度的 1T 模型后，还剩约 19 TB 可用于 KV 缓存和激活值；您也可以在同一个域中并行运行多个大模型。Grace CPU 所连接的 17 TB LPDDR5X，则为您从 GPU 卸载的数据提供了额外空间。 ## 软件与运维 Grace CPU 基于 Arm 架构，因此您的容器镜像和编译型依赖需要 arm64 版本。NVIDIA 为其核心软件提供了 arm64 版本，但请尽早检查您自己的镜像和 Python wheel 包。多 GPU 通信与 HGX 服务器一样使用 NCCL，区别在于：跨全部 72 张 GPU 的集合通信都在 NVLink 上完成。您机架的软件基线、访问方式和网络配置，都包含在我们于付款前确认的书面配置中。我们的[多 GPU NCCL 文档](https://fullgpu.com/zh/docs/multi-gpu-nccl)介绍了通信方面的内容。 ## GB300 NVL72 租用价格与租期 - **价格:** 每 GPU 每月 US$7,990 起，72 张 GPU 每月约 US$575,000 - **租期:** 12 至 36 个月 - **折合每 GPU 小时:** 约 US$10.95 起，即每 GPU 月价除以 730 小时 - **供货方式:** 在部署页面提交预订申请，交付时间窗口在付款前确认 与每 GPU 每月 US$4,987.50 的 HGX B300 服务器相比，机架的单卡成本约高 60%。多付的这部分费用换来的是 72 卡 NVLink 域、Grace CPU 及其内存，以及液冷机架。9 台 HGX B300 服务器在不计任何批量价格的情况下每月合计 US$359,100，因此只有当您的工作负载真正用到这个 NVLink 域时，机架才物有所值。在这一规模下，通常是与其他预留合同比较，而不是与按小时计费比较：2026年，许多服务商在大规模算力上更倾向于签订一年期合同，按需库存也常常售罄。您的预订确认会写明与您的租期、配置和起始日期相对应的确切价格。 ## 如何租用 GB300 NVL72 算力 1. 在部署页面[提交预订申请](https://fullgpu.com/zh/deploy)，可在同一表单中免费创建账户或登录，并在备注中写明：您计划运行的任务、所需 GPU 数量、租期以及目标起始日期。 2. 我们会在您的控制台中并通过电子邮件确认配置、价格、租期、部署地点和交付时间窗口。在您接受之前，不会收取任何费用。 3. 对于这种规模的订单，我们可能会要求进行身份验证；我们的[身份验证指南](https://fullgpu.com/zh/help/identity-verification)说明了我们可能要求提供哪些信息以及原因。 4. 您接受确认的价格后，用账户余额付款（余额通过加密货币充值；银行卡支付即将推出），访问信息会在确认的交付时间窗口内显示在您的控制台中。 如果我们未能在确认的交付时间窗口内交付，您可以取消订单，全额退款至余额。如果您的时间安排允许，[Vera Rubin NVL72](https://fullgpu.com/zh/gpus/nvidia-vera-rubin-nvl72) 已开放预订；如需现在就能使用的算力，可选择 GB300 NVL72 和 HGX B300。更多信息请参阅[我们的机架级系统](https://fullgpu.com/zh/products/rack-scale-systems)。 ## 常见问题 ### 租用 GB300 NVL72 需要多少钱？ 每 GPU 每月 US$7,990 起，全部 72 张 GPU 每月约 US$575,000，租期 12 至 36 个月。确切价格会在您付款前以书面形式确认。 ### GB300 NVL72 的最短租用期限是多久？ GB300 NVL72 系统的租期为 12 至 36 个月。如需更短的租期，HGX B300 服务器最短只需一个月。 ### 我需要 GB300 NVL72，还是几台 HGX B300 服务器？ 如果您的任务都能在 8 张 GPU 内完成，HGX B300 服务器更简单，按 GPU 计成本也更低。当单个任务需要超过 8 张 GPU 以 NVLink 速度交换数据时（例如大规模专家并行或前沿规模训练），请选择整机架。 ### GB300 NVL72 使用 x86 还是 Arm CPU？ 它的 Grace CPU 基于 Arm 架构，因此您的容器和编译型依赖需要 arm64 版本。GPU 运行常规的 NVIDIA CUDA 软件栈。 ### 如何订购 GB300 NVL72？ 请在部署页面提交预订申请（也可以在该页面免费创建账户），并在备注中写明工作负载、GPU 数量、租期和起始日期。在您付款之前，我们会在控制台中并通过电子邮件确认配置、价格、租期、部署地点和交付时间窗口。 ### 机架级系统可以用加密货币付款吗？ 可以。与所有订单一样，您用以美元计价的预付余额付款，余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT（TRC-20）或 SOL 充值；银行卡支付即将推出。机架级系统等大额订单可能需要先完成身份验证。 ## 相关页面 - [机架级 GPU 系统：GB300 NVL72 与 Vera Rubin NVL72](https://fullgpu.com/zh/products/rack-scale-systems): 机架级 GPU 系统：租用 GB300 NVL72，价格 US$7,990/GPU·月起，租期 12–36 个月；或预订 Vera Rubin NVL72 算力。了解哪些团队需要一个 72 卡 NVLink 域。 - [GPU 服务器配置协助，由我们的工程师提供](https://fullgpu.com/zh/products/expert-onboarding): GPU 服务器配置协助，每台服务器均已包含：交付后，我们的工程师协助您完成首次启动检查，并就环境配置与数据迁移提供建议；下单前，还有选型工具帮您确定服务器规格。 - [面向企业的独立 GPU 服务器，附书面 SLA](https://fullgpu.com/zh/solutions/enterprise): 企业级独立 GPU 服务器租用：整卡独享的 GPU、8 卡裸金属节点、附服务赔偿额度的 99.9% SLA、载明公司增值税号的账单，以及长期价格。不妨先规划一次试点。 - [面向科研与高性能计算的 GPU 服务器，按固定月度预算租用](https://fullgpu.com/zh/solutions/research-hpc): 科研与高性能计算 GPU 服务器租用：H100、H200 和 MI355X，附厂商公布的 FP64 算力数据，支持 CUDA 或 ROCm，月度预算固定。根据您的代码选择合适的 GPU。 - [B200 与 B300 对比：Blackwell Ultra 值得升级吗？](https://fullgpu.com/zh/compare/b200-vs-b300): B200 与 B300 对比：HBM3e 显存 180 GB 对比 288 GB，FP4 算力提升，网络 400G 对比 800G。了解各自能装下什么、每 GB 成本，以及什么情况下 B200 就已够用。 - [2026年 GPU 短缺：买家面临什么，又该如何确保拿到 GPU](https://fullgpu.com/zh/blog/gpu-shortage-2026): 2026年 GPU 短缺：按需库存频频售罄，服务商力推一年期合同，GPU 租用价格也在上涨。本文剖析短缺的成因，并介绍团队在这种形势下依然能确保拿到 GPU 的办法。