NVIDIA · Blackwell
租用 RTX PRO 6000 Blackwell 服务器,每月 US$1,390 起
NVIDIA 的 Blackwell Server Edition 显卡,配备 96 GB GDDR7 ECC 显存,适用于渲染、生成式媒体和高性价比推理。单卡或 8 卡可选,固定月价。
- 显存
- 96 GB GDDR7 ECC
- 带宽
- 1.6 TB/s 每 GPU
- 互联
- PCIe Gen5 x16
- 支持精度
- FP4 · FP8 · BF16
- 整卡独享,绝不共享
- 任何月份均可取消
- 99.9% 可用性 SLA
- 加密货币支付
配置与价格
-
1× RTX PRO 6000 Blackwell 现货
独享虚拟机 · 整卡直通
16 vCPU · 188 GB 内存 · 1.92 TB NVMe · 10 Gbps
US$1,390/月
约合每 GPU 小时 US$1.90
-
8× RTX PRO 6000 Blackwell 现货
裸金属服务器 · PCIe
2× EPYC 9555 · 128 核 · 1.5 TB DDR5 内存 · 4× 3.84 TB NVMe · 2× 100 GbE
US$10,490/月
约合每 GPU 小时 US$1.80
付款前显示承诺交付日期。未能按期交付?全额退款。
规格
RTX PRO 6000 规格与服务器配置
先列出厂商公布的 GPU 规格,再列出我们出租的每种服务器的确切配置。以下所有信息都会在结账时、您付款前再次显示。
NVIDIA RTX PRO 6000 Blackwell
- 架构
- BlackwellNVIDIA
- 显存
- 96 GB GDDR7 ECC
- 显存带宽
- 1.6 TB/s
- FP4
- 4,000 AI TOPS厂商标称的稀疏算力
- FP8
- 支持未公布稠密算力
- BF16 / FP16
- 支持未公布稠密算力
- GPU 互联
- PCIe Gen5 x16无 NVLink
- 外形规格
- 双槽 PCIe 卡 · Server Edition
- 最大功耗
- 最高 600 W可配置
服务器配置
| 规格项 | 1× RTX PRO 6000 Blackwell | 8× RTX PRO 6000 Blackwell |
|---|---|---|
| GPU | 1 × 96 GB GDDR7 | 8 × 96 GB GDDR7 |
| 服务器类型 | 单卡 | 8 卡服务器 |
| CPU | 16 vCPU | 2× EPYC 9555 · 128 核 |
| 内存 | 188 GB | 1.5 TB DDR5 |
| 存储 | 1.92 TB NVMe | 4× 3.84 TB NVMe |
| 网络 | 10 Gbps | 2× 100 GbE |
| 流量 | 每月含 20 TB | 每月含 50 TB |
| 价格 | US$1,390/月 | US$10,490/月 |
- 通过 SSH 获取 root 权限
- 预装驱动、CUDA 和 Docker 的 Ubuntu
- IPv4 + IPv6 /64
- DDoS 防护
算力数据为厂商公布的稠密算力规格;如厂商公布了结构化稀疏算力,也一并列出。实际吞吐量取决于您的模型、精度和软件。
适用场景
RTX PRO 6000 最擅长什么
这款 GPU 在哪些场景物有所值,以及何时选择另一款更明智。
-
渲染与视效
RT Core 加上每张 GPU 96 GB 显存,可处理 Blender、Redshift、Octane 或 Unreal Engine 中的大型场景。
-
生成式媒体
视频和图像模型能在 BF16 精度下运行,并为长片段、高分辨率和大批次留出空间。
-
高性价比推理
FP8 精度的 70B 模型可以装入一张 96 GB GPU,每月 US$1,390。
-
并行批处理
一台服务器 8 张 GPU,适用于渲染农场、批量生成或 8 个相互独立的推理副本。
显存估算
RTX PRO 6000 能装下哪些模型?
在中等上下文长度下提供模型推理服务所需的 GPU 数量:权重另加约 20% 的 KV 缓存和运行时余量,并通过张量并行拆分到多张 GPU 上。 如需针对您的具体模型、上下文和批次大小进行估算,请使用显存计算器。
| 模型规模 | BF16 2 字节/参数 | FP8 1 字节/参数 | 4 位 0.5 字节/参数 |
|---|---|---|---|
| 8B Llama 3.1 8B 级 | 1 张 GPU | 1 张 GPU | 1 张 GPU |
| 14B Qwen3 14B 级 | 1 张 GPU | 1 张 GPU | 1 张 GPU |
| 32B Qwen3 32B 级 | 1 张 GPU | 1 张 GPU | 1 张 GPU |
| 70B Llama 3.3 70B 级 | 2 张 GPU | 1 张 GPU | 1 张 GPU |
| 120B 大型稠密或 MoE 模型 | 4 张 GPU | 2 张 GPU | 1 张 GPU |
| 235B Qwen3 235B MoE 级 | 8 张 GPU | 4 张 GPU | 2 张 GPU |
| 405B Llama 3.1 405B 级 | 装不下 | 8 张 GPU | 4 张 GPU |
| 671B |
装不下 | 8 张 GPU勉强 | 4 张 GPU勉强 |
按推理场景估算,权重量化为所示精度;长上下文和大批次需要更多显存来容纳 KV 缓存。 “勉强”表示仅在短上下文下装得下。 — 表示单台 8 卡服务器装不下。
简而言之:
租用 RTX PRO 6000 Blackwell GPU,您可以选择独享虚拟机中的单张 GPU,每月 US$1,390;或搭载 8 张 GPU 的整台 RTX PRO 6000 服务器,每月 US$10,490。每张卡都是 NVIDIA 的 Blackwell Server Edition,配备 96 GB GDDR7 ECC 显存,由您独享;两种配置均有现货。
RTX PRO 6000 Blackwell 是什么
RTX PRO 6000 Blackwell Server Edition 是一张面向数据中心服务器的双槽 PCIe Gen5 显卡,根据 NVIDIA 公布的规格,功耗最高 600 W。它将大容量显存(96 GB 支持 ECC 的 GDDR7,带宽约 1.6 TB/s)与用于光线追踪的 RT Core 和支持 FP8、FP4 的 Tensor Core 结合在一起。NVIDIA 标称的 FP8 算力为 2 PFLOPS,FP4 算力为 4 PFLOPS,均为稀疏算力。
与我们同样出租的 Ada Lovelace 架构 L40S 相比,它的显存从 48 GB 翻倍到 96 GB,带宽从 864 GB/s 提升到约 1.6 TB/s,并增加了 FP4 支持。与 H100 等 HBM GPU 相比,它以带宽换取容量:96 GB、1.6 TB/s,对比 80 GB、3.35 TB/s。它没有 NVLink,因此 GPU 之间通过 PCIe 交换数据。我们与 L40S 和 H100 的对比逐一分析了这些取舍。
96 GB 显存上的渲染、生成式媒体与推理
渲染与视效
生成式媒体
视频扩散模型最能体现 96 GB 的价值。14B 参数的视频模型仅 BF16 权重就需要约 28 GB;文本编码器、VAE,以及生成高分辨率长片段所需的激活值还要另算,因此在 32 GB 的卡上所剩空间很少,在 48 GB 上也可能很紧张。有了 96 GB,您可以在 BF16 精度下把整条流水线都保留在显存中。FLUX.1 等 12B 参数的图像模型在 BF16 精度下约 24 GB,还能留出空间运行大批次,或同时加载多个模型。更多内容请参阅生成式媒体工作负载。
高性价比推理
单卡,还是 8 卡 RTX PRO 6000 服务器?
RTX PRO 6000 服务器是一台裸金属机器,配备 8 张 GPU(共 768 GB GDDR7)、两颗 AMD EPYC 9555 处理器(共 128 核)、1.5 TB DDR5 内存、4 块 3.84 TB NVMe 硬盘和两个 100 GbE 网络端口。GPU 之间通过 PCIe Gen5 连接,没有 NVLink;一条 Gen5 x16 链路每个方向约 64 GB/s,远低于 HGX 服务器的 NVLink 带宽。因此,这台服务器非常适合可以拆分成独立部分的工作,例如渲染帧、批量生成,以及每张 GPU 运行一个推理副本;而对于大模型训练则不太适合,因为梯度或激活值在每一步都要跨 GPU 传输。我们的 NVLink 与 PCIe 对比一文说明了分界线在哪里。8 个单卡套餐每月合计 US$11,120,而这台服务器每月 US$10,490。
软件与远程工作流程
您将获得 SSH root 权限,系统为 Ubuntu 22.04 或 24.04,预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit;Debian 或 Rocky Linux 可应要求提供。渲染节点和生成工具以无界面(headless)方式运行,Web 界面则通过 SSH 隧道访问,而不是对公网开放:
# ComfyUI from your laptop, at http://localhost:8188
ssh -L 8188:localhost:8188 root@<server-ip>
# Render the animation on the GPU
blender -b shot.blend -E CYCLES -a -- --cycles-device OPTIX
商业渲染器需要各自的许可证,由您自行提供。我们的远程开发指南有更深入的介绍。
RTX PRO 6000 价格:每月与每 GPU 小时
- 单卡 RTX PRO 6000 每月 US$1,390,约合每 GPU 小时 US$1.90
- 8 卡服务器 每月 US$10,490,约合每 GPU 小时 US$1.80
按每 GB GPU 显存计算,单卡套餐每月约 US$14.50,而我们的单卡 H100 约为 US$27.40,L40S 约为 US$18.50。与任何按月套餐一样,每小时价格假设 GPU 全月 730 小时都在运行。如果一次赶工渲染让一张 GPU 连续三周全天候满负荷运行,就会用掉 504 小时;因此,只要按小时租用算力的价格高于约每 GPU 小时 US$2.76,按月计费就更划算;如果只是一个周末的渲染,通常按小时计费更合适。一般来说,用月价除以您需要支付的小时单价,就能得出您的盈亏平衡点。
价格包含出站流量,不收取出站流量费:单卡每月 20 TB,8 卡服务器每月 50 TB,足以把渲染完成的帧和模型输出传出服务器。每个套餐还包含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、7×24 小时支持,以及 99.9% 可用性 SLA(服务等级协议),不收取开通费。
订购流程
在部署页面
租用 RTX PRO 6000 Blackwell 需要多少钱?
单卡每月 US$1,390,8 卡服务器每月 US$10,490,满负荷使用时分别约合每 GPU 小时 US$1.90 和 US$1.80。截至撰写本文时,两者均有现货。
RTX PRO 6000 服务器中的 8 张 GPU 会共享显存吗?
不会。这台服务器使用 PCIe Gen5,没有 NVLink,因此每张 GPU 都有自己独立的 96 GB 显存。渲染器会在每张 GPU 上保存一份完整的场景副本;对于 LLM,如果模型装得下,最好每张 GPU 运行一个副本来提供推理服务。
能在一张 RTX PRO 6000 上运行 70B 大语言模型吗?
能。在 FP8 精度下,权重约占 96 GB 中的 70 GB,扣除余量后还剩约 15 至 20 GB 可用于 KV 缓存;在 4 位量化下,权重约占 35 GB。
这是工作站版显卡,还是 Server Edition?
我们出租的是 RTX PRO 6000 Blackwell Server Edition。根据 NVIDIA 公布的规格,它配备 96 GB GDDR7 ECC 显存,功耗最高 600 W。
我可以安装哪些渲染和媒体软件?
由于您拥有 root 权限,任何能在配备 NVIDIA GPU 的 Linux 上运行、并符合我们可接受使用政策的软件都可以安装。商业渲染器需要各自的许可证,由您自行提供。
项目结束时可以取消吗?
可以。最短期限为一个月,任何月份均可免费取消;服务器会一直运行到已付费月份结束,随后其磁盘会被安全擦除。
部署 GPU 服务器
本月即可用上您的 RTX PRO 6000 服务器。
选择配置,在同一表单中创建账户,并用余额支付首月费用。承诺交付日期会在您付款前显示,未能按期交付即全额退款。
- 付款前显示承诺交付日期
- 任何月份均可取消
- 加密货币支付,最高加赠 50%