产品
GPU 服务器按月租用
按月租用整卡 GPU:从单张 RTX 5090 到机架级 GB300 NVL72,并配备您的工作负载所需的平台功能。
- 配置数
- 15
- 现可订购
- 13
- 起价
- US$449/月
- 开通费与出站流量费
- US$0
GPU 服务器
- 单卡服务器 单卡 GPU 服务器租用:一整张 GPU,运行在您独享的云虚拟机中,型号从 RTX 5090 到 B300 可选。提供 root 权限,每月含 20 TB 流量,按月计费,承诺交付日期。 US$449/月起 了解更多
- 8 卡服务器 裸金属 8 卡 GPU 服务器租用:可选 NVIDIA HGX B300、B200、H200、H100,AMD MI355X 或 8× RTX PRO 6000。每月含 50 TB 流量,按月租用,提供承诺交付日期。 US$10,490/月起 了解更多
-
机架级系统
机架级 GPU 系统:租用 GB300 NVL72,价格 US$7,990/GPU·月起,租期 US$7,990/GPU·月起 了解更多12–36 个月;或预订 Vera Rubin NVL72 算力。了解哪些团队需要一个 72 卡 NVLink 域。
平台
- 操作系统镜像 GPU 服务器操作系统镜像:Ubuntu 22.04 与 24.04,预装 NVIDIA 驱动、CUDA、Docker 和 Container Toolkit;AMD 服务器另有 ROCm 镜像。了解镜像中预装了哪些软件。 已包含 了解更多
- 私有网络 GPU 服务器之间的私有网络,可应要求开通:将您租用的各台 FullGPU 服务器连接到同一个隔离网络中,用于数据流水线和多节点任务。了解私有网络的运作方式。 可按需提供 了解更多
- DDoS 防护 GPU 服务器 DDoS 防护覆盖每台服务器的每个公网 IP,始终开启,不额外收费。本页说明它能防护哪些攻击、不能防护哪些,以及如何对推理 API 进行安全加固。 已包含 了解更多
- 工程师上手协助 GPU 服务器配置协助,每台服务器均已包含:交付后,我们的工程师协助您完成首次启动检查,并就环境配置与数据迁移提供建议;下单前,还有选型工具帮您确定服务器规格。 已包含 了解更多
GPU 产品线
每款 GPU,都是固定月价。
从单张 RTX 5090 到机架级 GB300 NVL72。价格、显存和库存均为实时数据。
- NVIDIA · Blackwell Ultra 库存有限 B300 288 GB HBM3e · 8 TB/s 1 张 GPU · 8 卡服务器 US$5,190/月起
- NVIDIA · Blackwell 现货 B200 180 GB HBM3e · 8 TB/s 1 张 GPU · 8 卡服务器 US$4,590/月起
- NVIDIA · Hopper 现货 H200 141 GB HBM3e · 4.8 TB/s 1 张 GPU · 8 卡服务器 US$3,090/月起
- NVIDIA · Hopper 现货 H100 80 GB HBM3 · 3.35 TB/s 1 张 GPU · 8 卡服务器 US$2,190/月起
- AMD · CDNA 4 库存有限 MI355X 288 GB HBM3e · 8 TB/s 8 卡服务器 US$19,900/月起
- NVIDIA · Blackwell 现货 RTX PRO 6000 96 GB GDDR7 ECC · 1.6 TB/s 1 张 GPU · 8 卡服务器 US$1,390/月起
- NVIDIA · Ada Lovelace 现货 L40S 48 GB GDDR6 ECC · 864 GB/s 1 张 GPU US$890/月起
- NVIDIA · Blackwell 现货 RTX 5090 32 GB GDDR7 · 1.79 TB/s 1 张 GPU US$449/月起
- NVIDIA · Blackwell Ultra 按申请供货 GB300 NVL72 288 GB HBM3e · 8 TB/s 72 卡机架 US$7,990/GPU·月起
- NVIDIA · Rubin 开放预订 Vera Rubin NVL72 288 GB HBM4 · 19.2 TB/s 72 卡机架 价格面议
GPU 服务器租用在这里指什么
在 FullGPU,GPU 服务器租用是指按月租用一台配备整张 GPU 的独立服务器,由我们在数据中心负责运维:您获得 root 权限,硬件、供电、散热、网络和部件更换都由我们处理。GPU 绝不共享,不用 vGPU 切分,也不用 MIG 分区,因此您在卡片上看到的显存和算力,在整个月内全部归您所有。
与按小时计费的 GPU 云不同,这里不计时收费:一个固定价格涵盖 GPU、CPU、内存、NVMe 存储、一个公网 IPv4 地址和一个 IPv6 网段、DDoS 防护、每月 20 至 50 TB 流量,以及 GPU 工程师 7×24 小时支持。价格页面列出了所有配置。
单卡服务器、8 卡服务器与机架级系统
| 服务器类型 | GPU | 运行方式 | 适用场景 | 价格 |
|---|---|---|---|---|
| 单卡服务器 | 1 张 GPU,从 RTX 5090 到 B300 | 整卡直通的独享虚拟机 | 推理、LoRA 和 QLoRA、图像生成、开发 | US$449/月起 |
| 8 卡服务器 | 8 张 GPU:HGX B300、B200、H200、H100、MI355X 或 RTX PRO 6000 | 裸金属,GPU 之间通过 NVLink 或 Infinity Fabric 互联 | 训练、全参数微调、单张 GPU 装不下的模型 | US$10,490/月起 |
| 机架级系统 | 72 张 GPU:GB300 NVL72 或 Vera Rubin NVL72 | 一个机架,一个 NVLink 域 | 机架规模的前沿模型训练与推理服务 | US$7,990/GPU·月起,租期 12 至 36 个月 |
不确定哪种适合您?显存计算器会显示您的模型需要多少显存,以及所有装得下它的配置。
每台服务器都包含的平台功能
- 操作系统镜像:预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的 Ubuntu 22.04 或 24.04,AMD 服务器则预装 ROCm。Debian 或 Rocky Linux 可应要求提供,也可随时应您的要求重装系统。
- DDoS 防护:每个公网 IP 始终开启,不额外收费。
- 私有网络:可应要求将您的服务器连接到一个隔离网络中,用于数据流水线和多节点任务。
- 工程师上手协助:交付后进行首次启动检查,并就您的环境和数据迁移提供建议,7×24 小时提供,不额外收费。
按月租用 GPU 服务器与按小时计费的云 GPU 对比
按小时计费的 GPU 云适合短时或不规律的工作:几个小时的实验、可以随时停止的突发任务,或者能在可中断容量上运行的任务。按月租用的服务器适合一个月大部分时间都在运行的工作:推理端点、持续数周的训练、团队共用的机器,以及任何每天都需要同一套硬件、同一个 IP 地址和同一份数据的工作。盈亏平衡点取决于您的用量;GPU 成本计算器可以把月价与任何小时报价进行比较,按月与按小时计费对比则解释了其中的算法。
如何租用 GPU 服务器
在部署页面选择配置,添加您的 SSH 密钥,然后用余额支付首月费用;余额可通过 Bitcoin、Ethereum、Monero、TRON 网络上的 USDT 或 Solana 充值。承诺交付日期会在付款前显示;如果我们未能按期交付,您将获得全额退款至余额。机架级系统也在同一页面预订:在我们确认价格和交付时间窗口之前,不收取任何费用。
什么是 GPU 服务器租用?
按月租用一台配备整张 GPU 的独立服务器,由我们在数据中心运维。您获得 root 权限,一个固定价格涵盖硬件、流量、IP 地址、DDoS 防护和 7×24 小时支持。
硬件由我独享吗?
是的。GPU 整张分配给一位客户,没有 vGPU 切分或 MIG 分区。8 卡服务器和机架级系统都是裸金属;单卡服务器运行在整卡直通的独享虚拟机中。
可以使用超过 8 张 GPU 吗?
可以:可应要求通过私有网络连接多台 8 卡服务器,或者选择在同一 NVLink 域内拥有 72 张 GPU 的机架级系统,即租期 12 至 36 个月的 GB300 NVL72,或预订 Vera Rubin NVL72。
可以运行哪些操作系统?
预装 NVIDIA 驱动、CUDA 和 Docker 的 Ubuntu 22.04 或 24.04,AMD 服务器则预装 ROCm。Debian 或 Rocky Linux 可应要求提供,并且您拥有完整的 root 权限。
有开通费或长期合同吗?
没有开通费,单卡和 8 卡服务器按月租用:在下次续费前取消,就不会再产生任何费用。机架级系统是例外:GB300 NVL72 的租期为 12 至 36 个月。