NVIDIA · Blackwell

租用 RTX PRO 6000 Blackwell 服务器,每月 US$1,390 起

NVIDIA 的 Blackwell Server Edition 显卡,配备 96 GB GDDR7 ECC 显存,适用于渲染、生成式媒体和高性价比推理。单卡或 8 卡可选,固定月价。

显存
96 GB GDDR7 ECC
带宽
1.6 TB/s 每 GPU
互联
PCIe Gen5 x16
支持精度
FP4 · FP8 · BF16
  • 整卡独享,绝不共享
  • 任何月份均可取消
  • 99.9% 可用性 SLA
  • 加密货币支付

配置与价格

  • 1× RTX PRO 6000 Blackwell 现货

    独享虚拟机 · 整卡直通

    16 vCPU · 188 GB 内存 · 1.92 TB NVMe · 10 Gbps

    US$1,390/月

    约合每 GPU 小时 US$1.90

  • 8× RTX PRO 6000 Blackwell 现货

    裸金属服务器 · PCIe

    2× EPYC 9555 · 128 核 · 1.5 TB DDR5 内存 · 4× 3.84 TB NVMe · 2× 100 GbE

    US$10,490/月

    约合每 GPU 小时 US$1.80

付款前显示承诺交付日期。未能按期交付?全额退款。

规格

RTX PRO 6000 规格与服务器配置

先列出厂商公布的 GPU 规格,再列出我们出租的每种服务器的确切配置。以下所有信息都会在结账时、您付款前再次显示。

NVIDIA RTX PRO 6000 Blackwell

架构
BlackwellNVIDIA
显存
96 GB GDDR7 ECC
显存带宽
1.6 TB/s
FP4
4,000 AI TOPS厂商标称的稀疏算力
FP8
支持未公布稠密算力
BF16 / FP16
支持未公布稠密算力
GPU 互联
PCIe Gen5 x16无 NVLink
外形规格
双槽 PCIe 卡 · Server Edition
最大功耗
最高 600 W可配置

服务器配置

规格项1× RTX PRO 6000 Blackwell8× RTX PRO 6000 Blackwell
GPU1 × 96 GB GDDR78 × 96 GB GDDR7
服务器类型单卡8 卡服务器
CPU16 vCPU2× EPYC 9555 · 128 核
内存188 GB1.5 TB DDR5
存储1.92 TB NVMe4× 3.84 TB NVMe
网络10 Gbps2× 100 GbE
流量每月含 20 TB每月含 50 TB
价格US$1,390/月US$10,490/月
  • 通过 SSH 获取 root 权限
  • 预装驱动、CUDA 和 Docker 的 Ubuntu
  • IPv4 + IPv6 /64
  • DDoS 防护

算力数据为厂商公布的稠密算力规格;如厂商公布了结构化稀疏算力,也一并列出。实际吞吐量取决于您的模型、精度和软件。

适用场景

RTX PRO 6000 最擅长什么

这款 GPU 在哪些场景物有所值,以及何时选择另一款更明智。

  • 渲染与视效

    RT Core 加上每张 GPU 96 GB 显存,可处理 Blender、Redshift、Octane 或 Unreal Engine 中的大型场景。

  • 生成式媒体

    视频和图像模型能在 BF16 精度下运行,并为长片段、高分辨率和大批次留出空间。

  • 高性价比推理

    FP8 精度的 70B 模型可以装入一张 96 GB GPU,每月 US$1,390。

  • 并行批处理

    一台服务器 8 张 GPU,适用于渲染农场、批量生成或 8 个相互独立的推理副本。

显存估算

RTX PRO 6000 能装下哪些模型?

在中等上下文长度下提供模型推理服务所需的 GPU 数量:权重另加约 20% 的 KV 缓存和运行时余量,并通过张量并行拆分到多张 GPU 上。 如需针对您的具体模型、上下文和批次大小进行估算,请使用显存计算器。

不同模型规模和精度所需的 RTX PRO 6000 GPU 数量
模型规模BF16 2 字节/参数FP8 1 字节/参数4 位 0.5 字节/参数
8B Llama 3.1 8B 级 1 张 GPU 1 张 GPU 1 张 GPU
14B Qwen3 14B 级 1 张 GPU 1 张 GPU 1 张 GPU
32B Qwen3 32B 级 1 张 GPU 1 张 GPU 1 张 GPU
70B Llama 3.3 70B 级 2 张 GPU 1 张 GPU 1 张 GPU
120B 大型稠密或 MoE 模型 4 张 GPU 2 张 GPU 1 张 GPU
235B Qwen3 235B MoE 级 8 张 GPU 4 张 GPU 2 张 GPU
405B Llama 3.1 405B 级 装不下 8 张 GPU 4 张 GPU
671B DeepSeek-V3 / R1 MoE 模型 装不下 8 张 GPU勉强 4 张 GPU勉强

如何解读

  • 1 张 GPU单张 RTX PRO 6000 即可装下
  • 2 张 GPU在单台服务器内通过张量并行拆分
  • 勉强仅在短上下文下装得下
  • —单台服务器装不下

真实模型的显存估算

打开显存计算器

按推理场景估算,权重量化为所示精度;长上下文和大批次需要更多显存来容纳 KV 缓存。 “勉强”表示仅在短上下文下装得下。 — 表示单台 8 卡服务器装不下。

简而言之: FullGPU 按月出租 NVIDIA RTX PRO 6000 Blackwell:一张独享的 RTX PRO 6000 Blackwell(96 GB GDDR7),每月 US$1,390,满载使用时约合每 GPU 小时 US$1.90;或一台 8 卡 NVIDIA RTX PRO 6000 Blackwell 服务器(8 × 96 GB GDDR7),每月 US$10,490,约合每 GPU 小时 US$1.80。两种配置均有现货:付款后,单卡服务器在 1 个工作日内交付,8 卡服务器在 3 个工作日内交付。费用从以美元计价的余额中支付,余额可用 Bitcoin、Ethereum、Monero、USDT(TRC-20)或 Solana 充值;无开通费,套餐可在任何一次月度续费前取消。 价格截至 。

租用 RTX PRO 6000 Blackwell GPU,您可以选择独享虚拟机中的单张 GPU,每月 US$1,390;或搭载 8 张 GPU 的整台 RTX PRO 6000 服务器,每月 US$10,490。每张卡都是 NVIDIA 的 Blackwell Server Edition,配备 96 GB GDDR7 ECC 显存,由您独享;两种配置均有现货。

RTX PRO 6000 Blackwell 是什么

RTX PRO 6000 Blackwell Server Edition 是一张面向数据中心服务器的双槽 PCIe Gen5 显卡,根据 NVIDIA 公布的规格,功耗最高 600 W。它将大容量显存(96 GB 支持 ECC 的 GDDR7,带宽约 1.6 TB/s)与用于光线追踪的 RT Core 和支持 FP8、FP4 的 Tensor Core 结合在一起。NVIDIA 标称的 FP8 算力为 2 PFLOPS,FP4 算力为 4 PFLOPS,均为稀疏算力。

与我们同样出租的 Ada Lovelace 架构 L40S 相比,它的显存从 48 GB 翻倍到 96 GB,带宽从 864 GB/s 提升到约 1.6 TB/s,并增加了 FP4 支持。与 H100 等 HBM GPU 相比,它以带宽换取容量:96 GB、1.6 TB/s,对比 80 GB、3.35 TB/s。它没有 NVLink,因此 GPU 之间通过 PCIe 交换数据。我们与 L40S 和 H100 的对比逐一分析了这些取舍。

96 GB 显存上的渲染、生成式媒体与推理

渲染与视效

使用 OptiX 的 Blender Cycles、Redshift、Octane 和 Unreal Engine 都利用 RT Core 进行光线追踪。由于没有 NVLink,每张 GPU 都保存一份自己的场景副本,因此每张 GPU 的 96 GB 就是您的场景预算;8 张 GPU 是并行渲染 8 帧或 8 个分块,而不是把显存合并使用。对于带有大型纹理和几何缓存的生产级场景,96 GB 能把原本需要较慢的核外(out-of-core)渲染才能处理的数据留在 GPU 显存中。典型配置请参阅渲染与视效。

生成式媒体

视频扩散模型最能体现 96 GB 的价值。14B 参数的视频模型仅 BF16 权重就需要约 28 GB;文本编码器、VAE,以及生成高分辨率长片段所需的激活值还要另算,因此在 32 GB 的卡上所剩空间很少,在 48 GB 上也可能很紧张。有了 96 GB,您可以在 BF16 精度下把整条流水线都保留在显存中。FLUX.1 等 12B 参数的图像模型在 BF16 精度下约 24 GB,还能留出空间运行大批次,或同时加载多个模型。更多内容请参阅生成式媒体工作负载。

高性价比推理

对于大语言模型(LLM),FP8 精度的 70B 模型约占 70 GB,扣除余量后还剩约 15–20 GB 可用于 KV 缓存;4 位量化下约占 35 GB,卡上大部分显存都可以留给并发请求。BF16 精度的 32B 模型(约 64 GB)也装得下。限制在于带宽:约 1.6 TB/s 的带宽大约只有 H100 的一半、H200 的三分之一,因此对于大模型的延迟敏感型推理服务,HBM GPU 是更合适的工具。对于批处理任务、内部工具和中等流量的推理端点,RTX PRO 6000 让您每一美元都能买到更多的 GPU 显存。

单卡,还是 8 卡 RTX PRO 6000 服务器?

单卡套餐包含 16 个 vCPU、188 GB 内存、1.92 TB NVMe 存储和一个 10 Gbps 网络端口,足以满足外观开发(look-dev)、一条生成流水线或一个推理端点的需要。

RTX PRO 6000 服务器是一台裸金属机器,配备 8 张 GPU(共 768 GB GDDR7)、两颗 AMD EPYC 9555 处理器(共 128 核)、1.5 TB DDR5 内存、4 块 3.84 TB NVMe 硬盘和两个 100 GbE 网络端口。GPU 之间通过 PCIe Gen5 连接,没有 NVLink;一条 Gen5 x16 链路每个方向约 64 GB/s,远低于 HGX 服务器的 NVLink 带宽。因此,这台服务器非常适合可以拆分成独立部分的工作,例如渲染帧、批量生成,以及每张 GPU 运行一个推理副本;而对于大模型训练则不太适合,因为梯度或激活值在每一步都要跨 GPU 传输。我们的 NVLink 与 PCIe 对比一文说明了分界线在哪里。8 个单卡套餐每月合计 US$11,120,而这台服务器每月 US$10,490。

软件与远程工作流程

您将获得 SSH root 权限,系统为 Ubuntu 22.04 或 24.04,预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit;Debian 或 Rocky Linux 可应要求提供。渲染节点和生成工具以无界面(headless)方式运行,Web 界面则通过 SSH 隧道访问,而不是对公网开放:

# ComfyUI from your laptop, at http://localhost:8188
ssh -L 8188:localhost:8188 root@<server-ip>
# Render the animation on the GPU
blender -b shot.blend -E CYCLES -a -- --cycles-device OPTIX

商业渲染器需要各自的许可证,由您自行提供。我们的远程开发指南有更深入的介绍。

RTX PRO 6000 价格:每月与每 GPU 小时

  • 单卡 RTX PRO 6000 每月 US$1,390,约合每 GPU 小时 US$1.90
  • 8 卡服务器 每月 US$10,490,约合每 GPU 小时 US$1.80

按每 GB GPU 显存计算,单卡套餐每月约 US$14.50,而我们的单卡 H100 约为 US$27.40,L40S 约为 US$18.50。与任何按月套餐一样,每小时价格假设 GPU 全月 730 小时都在运行。如果一次赶工渲染让一张 GPU 连续三周全天候满负荷运行,就会用掉 504 小时;因此,只要按小时租用算力的价格高于约每 GPU 小时 US$2.76,按月计费就更划算;如果只是一个周末的渲染,通常按小时计费更合适。一般来说,用月价除以您需要支付的小时单价,就能得出您的盈亏平衡点。

价格包含出站流量,不收取出站流量费:单卡每月 20 TB,8 卡服务器每月 50 TB,足以把渲染完成的帧和模型输出传出服务器。每个套餐还包含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、7×24 小时支持,以及 99.9% 可用性 SLA(服务等级协议),不收取开通费。

订购流程

在部署页面选择配置,设置操作系统镜像、可选的预装软件和登录方式(root 密码或 SSH 密钥),并在同一表单中免费创建账户或登录;承诺交付日期会在付款前显示。随后,您用预付余额支付首月费用;余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值,最高可获得 50% 赠送额度(银行卡支付即将推出)。SSH root 权限会在该日期前开通,IP 地址和 SSH 登录信息显示在您的控制台中。如果我们未能按期交付,您可以取消订单,全额退款至余额。套餐每月从余额自动续费,并会发送邮件提醒;任何月份均可免费取消,适合按项目开展的工作。拥有运行中服务器的客户,可以在控制台提交工单,咨询一批渲染节点的批量价格或 6–12 个月的长期价格。

RTX PRO 6000:US$1,390/月起

现货 · 付款前显示承诺交付日期。

对比全部 15 种配置

常见问题

RTX PRO 6000 租用常见问题

以下为简要说明。详细内容请查阅帮助中心;拥有运行中服务器的客户可通过工单获得 7×24 小时解答。

访问帮助中心
租用 RTX PRO 6000 Blackwell 需要多少钱?

单卡每月 US$1,390,8 卡服务器每月 US$10,490,满负荷使用时分别约合每 GPU 小时 US$1.90 和 US$1.80。截至撰写本文时,两者均有现货。

RTX PRO 6000 服务器中的 8 张 GPU 会共享显存吗?

不会。这台服务器使用 PCIe Gen5,没有 NVLink,因此每张 GPU 都有自己独立的 96 GB 显存。渲染器会在每张 GPU 上保存一份完整的场景副本;对于 LLM,如果模型装得下,最好每张 GPU 运行一个副本来提供推理服务。

能在一张 RTX PRO 6000 上运行 70B 大语言模型吗?

能。在 FP8 精度下,权重约占 96 GB 中的 70 GB,扣除余量后还剩约 15 至 20 GB 可用于 KV 缓存;在 4 位量化下,权重约占 35 GB。

这是工作站版显卡,还是 Server Edition?

我们出租的是 RTX PRO 6000 Blackwell Server Edition。根据 NVIDIA 公布的规格,它配备 96 GB GDDR7 ECC 显存,功耗最高 600 W。

我可以安装哪些渲染和媒体软件?

由于您拥有 root 权限,任何能在配备 NVIDIA GPU 的 Linux 上运行、并符合我们可接受使用政策的软件都可以安装。商业渲染器需要各自的许可证,由您自行提供。

项目结束时可以取消吗?

可以。最短期限为一个月,任何月份均可免费取消;服务器会一直运行到已付费月份结束,随后其磁盘会被安全擦除。

部署 GPU 服务器

本月即可用上您的 RTX PRO 6000 服务器。

选择配置,在同一表单中创建账户,并用余额支付首月费用。承诺交付日期会在您付款前显示,未能按期交付即全额退款。

  • 付款前显示承诺交付日期
  • 任何月份均可取消
  • 加密货币支付,最高加赠 50%

登录 FullGPU

管理您的 GPU 服务器、余额和账单。

首次使用 FullGPU? 创建账户