GPU
按月租用的 GPU 服务器:我们出租的全部 GPU
十款 GPU,从 GeForce RTX 5090 到机架级 GB300 NVL72。整卡独享,绝不共享;每张卡片都列出显存、带宽、库存和固定月价。
- 配置数
- 15
- 现可订购
- 13
- 起价
- US$449/月
- 开通费与出站流量费
- US$0
- NVIDIA · Blackwell Ultra 库存有限 B300 288 GB HBM3e · 8 TB/s 1 张 GPU · 8 卡服务器 US$5,190/月起
- NVIDIA · Blackwell 现货 B200 180 GB HBM3e · 8 TB/s 1 张 GPU · 8 卡服务器 US$4,590/月起
- NVIDIA · Hopper 现货 H200 141 GB HBM3e · 4.8 TB/s 1 张 GPU · 8 卡服务器 US$3,090/月起
- NVIDIA · Hopper 现货 H100 80 GB HBM3 · 3.35 TB/s 1 张 GPU · 8 卡服务器 US$2,190/月起
- AMD · CDNA 4 库存有限 MI355X 288 GB HBM3e · 8 TB/s 8 卡服务器 US$19,900/月起
- NVIDIA · Blackwell 现货 RTX PRO 6000 96 GB GDDR7 ECC · 1.6 TB/s 1 张 GPU · 8 卡服务器 US$1,390/月起
- NVIDIA · Ada Lovelace 现货 L40S 48 GB GDDR6 ECC · 864 GB/s 1 张 GPU US$890/月起
- NVIDIA · Blackwell 现货 RTX 5090 32 GB GDDR7 · 1.79 TB/s 1 张 GPU US$449/月起
- NVIDIA · Blackwell Ultra 按申请供货 GB300 NVL72 288 GB HBM3e · 8 TB/s 72 卡机架 US$7,990/GPU·月起
- NVIDIA · Rubin 开放预订 Vera Rubin NVL72 288 GB HBM4 · 19.2 TB/s 72 卡机架 价格面议
概览
GPU 规格并列对比
显存容量决定您能运行什么模型,带宽决定解码速度有多快。 算力和互联数据请查看完整对比表。
| GPU | 显存 | 带宽 | 起价 |
|---|---|---|---|
| B300NVIDIA · Blackwell Ultra | 288 GBHBM3e | 8 TB/s | US$5,190/月 · 1 张 GPU |
| B200NVIDIA · Blackwell | 180 GBHBM3e | 8 TB/s | US$4,590/月 · 1 张 GPU |
| H200NVIDIA · Hopper | 141 GBHBM3e | 4.8 TB/s | US$3,090/月 · 1 张 GPU |
| H100NVIDIA · Hopper | 80 GBHBM3 | 3.35 TB/s | US$2,190/月 · 1 张 GPU |
| MI355XAMD · CDNA 4 | 288 GBHBM3e | 8 TB/s | US$19,900/月 · 8 张 GPU,每张约 US$2,488 |
| RTX PRO 6000NVIDIA · Blackwell | 96 GBGDDR7 ECC | 1.6 TB/s | US$1,390/月 · 1 张 GPU |
| L40SNVIDIA · Ada Lovelace | 48 GBGDDR6 ECC | 864 GB/s | US$890/月 · 1 张 GPU |
| RTX 5090NVIDIA · Blackwell | 32 GBGDDR7 | 1.79 TB/s | US$449/月 · 1 张 GPU |
| GB300 NVL72NVIDIA · Blackwell Ultra | 288 GBHBM3e | 8 TB/s | US$7,990/GPU·月 |
| Vera Rubin NVL72NVIDIA · Rubin | 288 GBHBM4 | 19.2 TB/s | 按申请供货开放预订 |
左右滑动表格可查看全部列
按工作负载
该租用哪款 GPU?
从您要运行的任务出发。 每篇指南都会说明所需显存和适合的配置;您也可以直接使用显存计算器。
-
大语言模型训练
通过 NVLink 互联的 HGX 服务器,配备 最佳匹配:8× NVIDIA HGX B300 用于大语言模型训练的 GPU 服务器400–800 G 网络。整个训练过程始终使用同一批机器、数据和检查点:不会被抢占,也无需重新排队。 - 微调 从 LoRA 到 70B 级模型的全参数微调。数据集、检查点和您的环境整月都保留在服务器上。 最佳匹配:NVIDIA H200 用于微调的 GPU 服务器
-
推理
全天候运行 vLLM、SGLang 或 最佳匹配:NVIDIA H200 用于推理的 GPU 服务器TensorRT-LLM 。在高利用率下,固定月价比按小时付费更划算。 - 生成式媒体 以充裕的显存运行 ComfyUI、扩散模型和视频模型,无需排在其他租户之后。 最佳匹配:NVIDIA RTX PRO 6000 Blackwell 用于生成式媒体的 GPU 服务器
- 渲染与视效 Blackwell RT Core 与 96 GB GDDR7 显存,适用于 Blender、Redshift、Octane 和 Unreal,足以应对项目赶工期。 最佳匹配:8× NVIDIA RTX PRO 6000 Blackwell 用于渲染与视效的 GPU 服务器
- 科研与高性能计算 按月租用,运行仿真模拟、基因组学和科学计算,租期与科研经费周期和学期安排相匹配。 最佳匹配:8× NVIDIA HGX H100 用于科研与高性能计算的 GPU 服务器
GPU 服务器按月租用的流程
按月租用的 GPU 服务器,就是以固定价格为您保留一个月的一整张 GPU(或 8 张)。您在部署页面选择配置,添加 SSH 密钥,然后用您通过加密货币充值的余额支付首月费用。付款前,页面会显示承诺交付日期;如果我们未能按期交付,全部款项将退回您的余额。
- 选择 GPU 和配置。单卡服务器运行在整卡直通的独享虚拟机中。8 卡服务器是裸金属服务器,GPU 之间通过 NVLink 互联(AMD MI355X 为 Infinity Fabric)。
- 支付首月费用。使用 Bitcoin、Ethereum、Monero、TRON 网络上的 USDT 或 Solana 充值,大额充值最高可获 50% 赠送额度。
- 在交付日期前获得 root 权限。IP 地址和 SSH 登录信息会显示在您的控制台中;系统为预装 NVIDIA 驱动、CUDA 和 Docker 的 Ubuntu,AMD 服务器则预装 ROCm。
- 逐月续费或取消。套餐从您的余额续费,每次续费前都会提醒您;您也可以在下个月开始前免费取消。
每个月价都包含什么
- 整张 GPU 绝不共享,不用 vGPU 切分,也不用 MIG 分区
- CPU、内存和 NVMe 以各配置所列为准,均位于服务器本地
- 流量 单卡服务器每月 20 TB,8 卡服务器每月 50 TB,额度内不收取出站流量费
- 网络 一个公网 IPv4 地址、一个 IPv6 网段,以及始终开启的 DDoS 防护
- 软件 预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的操作系统镜像,AMD 服务器则预装 ROCm
- 支持 GPU 工程师 7×24 小时响应,通过您控制台中的工单受理
不收取开通费,99.9% 可用性 SLA(服务等级协议)覆盖每台服务器。每张卡片上的价格就是完整的月价;旁边的每 GPU 小时数字只是为了方便您与按小时计费的报价比较。
按月与按小时:按月租用服务器何时更划算
用月价除以您实际使用 GPU 的小时数。每月 US$2,190 的单卡 H100,如果在平均一个月的全部 730 小时都在运行,折合每 GPU 小时 US$3.00;如果只运行一半时间,则是这个数字的两倍。如果按您的实际用量计算,某个按小时计费的报价(含存储和出站流量)低于这个数字,按小时更便宜;否则,按月更便宜。推理端点、持续数周的训练任务和团队共用机器,通常都更适合按月计费。
GPU 成本计算器可以针对任何小时报价完成这项计算,按月与按小时 GPU 计费对比一文则详细演示了盈亏平衡的算法。
单卡还是 8 卡服务器?
单卡服务器适合一个模型副本、一个微调任务或一位开发者:为单张 GPU 显存装得下的模型提供推理服务、LoRA 和 QLoRA、图像生成和渲染。8 卡服务器是一台裸金属机器,8 张 GPU 通过 NVLink 互联,适合训练,以及借助张量并行为单张 GPU 装不下的模型提供推理服务。8 台独立的单卡服务器之间没有 NVLink 互联,因此需要拆分到多张 GPU 上的模型,必须使用 8 卡服务器。
如果需要在同一 NVLink 域内使用超过 8 张 GPU,可以预订 GB300 NVL72 等机架级系统,租期 12 至 36 个月。要了解您的模型需要多少显存、哪些配置装得下,请使用显存计算器或大语言模型 GPU 要求表。
供货情况与交付日期
上方每张卡片都实时显示库存。有现货的单卡服务器在 1 个工作日内交付,有现货的 8 卡服务器在 3 个工作日内交付;库存有限时,单卡服务器请预留 3 个工作日,8 卡服务器请预留 7 个工作日。确切的交付日期总会在您付款前显示;如果我们未能按期交付,您将获得全额退款至余额。交付指南说明了交付日期如何确定,我们的 GPU 短缺指南则解释了 2026年整个行业的算力为何紧张。
什么是按月租用的 GPU 服务器?
以固定价格按月租用的独立 GPU 服务器:整张 GPU、CPU、内存、NVMe 和流量都为您保留,并提供 root 权限。在您取消之前,它每月从您的预付余额续费。
多快能拿到 GPU 服务器?
有现货的单卡服务器在 1 个工作日内交付,有现货的 8 卡服务器在 3 个工作日内交付。确切日期会在您付款前显示;如果我们未能按期交付,全部款项将退回您的余额。
按月租用的 GPU 服务器可以随时取消吗?
可以。在下次续费前取消,就不会再产生任何费用。没有取消费,除了已付费的那个月,也没有其他最短期限要求。
GPU 会与其他客户共享吗?
不会。每张 GPU 都整张分配给一位客户,没有 vGPU 切分、MIG 分区或分时共享。
如何支付 GPU 服务器费用?
从以美元计价的余额中支付;余额可通过 Bitcoin、Ethereum、Monero、TRON 网络上的 USDT 或 Solana 充值,大额充值最高可获 50% 赠送额度。银行卡支付即将推出。
70B 模型应该租用哪款 GPU?
在 FP8 精度下,70B 模型的权重约需 71 GB,另需为 KV 缓存留出空间,因此一张 141 GB 的 H200 就能从容运行。在 BF16 精度下,仅权重就约需 141 GB,这需要一张 B200、一张 B300,或 8 卡服务器上的两张 GPU。