GPU

按月租用的 GPU 服务器:我们出租的全部 GPU

十款 GPU,从 GeForce RTX 5090 到机架级 GB300 NVL72。整卡独享,绝不共享;每张卡片都列出显存、带宽、库存和固定月价。

配置数
15
现可订购
13
起价
US$449/月
开通费与出站流量费
US$0

概览

GPU 规格并列对比

显存容量决定您能运行什么模型,带宽决定解码速度有多快。 算力和互联数据请查看完整对比表。

FullGPU 出租的各款 GPU 的规格与月价
GPU 显存 带宽 起价
B300NVIDIA · Blackwell Ultra 288 GBHBM3e 8 TB/s US$5,190/月 · 1 张 GPU
B200NVIDIA · Blackwell 180 GBHBM3e 8 TB/s US$4,590/月 · 1 张 GPU
H200NVIDIA · Hopper 141 GBHBM3e 4.8 TB/s US$3,090/月 · 1 张 GPU
H100NVIDIA · Hopper 80 GBHBM3 3.35 TB/s US$2,190/月 · 1 张 GPU
MI355XAMD · CDNA 4 288 GBHBM3e 8 TB/s US$19,900/月 · 8 张 GPU,每张约 US$2,488
RTX PRO 6000NVIDIA · Blackwell 96 GBGDDR7 ECC 1.6 TB/s US$1,390/月 · 1 张 GPU
L40SNVIDIA · Ada Lovelace 48 GBGDDR6 ECC 864 GB/s US$890/月 · 1 张 GPU
RTX 5090NVIDIA · Blackwell 32 GBGDDR7 1.79 TB/s US$449/月 · 1 张 GPU
GB300 NVL72NVIDIA · Blackwell Ultra 288 GBHBM3e 8 TB/s US$7,990/GPU·月
Vera Rubin NVL72NVIDIA · Rubin 288 GBHBM4 19.2 TB/s 按申请供货开放预订

左右滑动表格可查看全部列

GPU 服务器按月租用的流程

按月租用的 GPU 服务器,就是以固定价格为您保留一个月的一整张 GPU(或 8 张)。您在部署页面选择配置,添加 SSH 密钥,然后用您通过加密货币充值的余额支付首月费用。付款前,页面会显示承诺交付日期;如果我们未能按期交付,全部款项将退回您的余额。

  1. 选择 GPU 和配置。单卡服务器运行在整卡直通的独享虚拟机中。8 卡服务器是裸金属服务器,GPU 之间通过 NVLink 互联(AMD MI355X 为 Infinity Fabric)。
  2. 支付首月费用。使用 Bitcoin、Ethereum、Monero、TRON 网络上的 USDT 或 Solana 充值,大额充值最高可获 50% 赠送额度。
  3. 在交付日期前获得 root 权限。IP 地址和 SSH 登录信息会显示在您的控制台中;系统为预装 NVIDIA 驱动、CUDA 和 Docker 的 Ubuntu,AMD 服务器则预装 ROCm。
  4. 逐月续费或取消。套餐从您的余额续费,每次续费前都会提醒您;您也可以在下个月开始前免费取消。

每个月价都包含什么

  • 整张 GPU 绝不共享,不用 vGPU 切分,也不用 MIG 分区
  • CPU、内存和 NVMe 以各配置所列为准,均位于服务器本地
  • 流量 单卡服务器每月 20 TB,8 卡服务器每月 50 TB,额度内不收取出站流量费
  • 网络 一个公网 IPv4 地址、一个 IPv6 网段,以及始终开启的 DDoS 防护
  • 软件 预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的操作系统镜像,AMD 服务器则预装 ROCm
  • 支持 GPU 工程师 7×24 小时响应,通过您控制台中的工单受理

不收取开通费,99.9% 可用性 SLA(服务等级协议)覆盖每台服务器。每张卡片上的价格就是完整的月价;旁边的每 GPU 小时数字只是为了方便您与按小时计费的报价比较。

按月与按小时:按月租用服务器何时更划算

用月价除以您实际使用 GPU 的小时数。每月 US$2,190 的单卡 H100,如果在平均一个月的全部 730 小时都在运行,折合每 GPU 小时 US$3.00;如果只运行一半时间,则是这个数字的两倍。如果按您的实际用量计算,某个按小时计费的报价(含存储和出站流量)低于这个数字,按小时更便宜;否则,按月更便宜。推理端点、持续数周的训练任务和团队共用机器,通常都更适合按月计费。

GPU 成本计算器可以针对任何小时报价完成这项计算,按月与按小时 GPU 计费对比一文则详细演示了盈亏平衡的算法。

单卡还是 8 卡服务器?

单卡服务器适合一个模型副本、一个微调任务或一位开发者:为单张 GPU 显存装得下的模型提供推理服务、LoRA 和 QLoRA、图像生成和渲染。8 卡服务器是一台裸金属机器,8 张 GPU 通过 NVLink 互联,适合训练,以及借助张量并行为单张 GPU 装不下的模型提供推理服务。8 台独立的单卡服务器之间没有 NVLink 互联,因此需要拆分到多张 GPU 上的模型,必须使用 8 卡服务器。

如果需要在同一 NVLink 域内使用超过 8 张 GPU,可以预订 GB300 NVL72 等机架级系统,租期 12 至 36 个月。要了解您的模型需要多少显存、哪些配置装得下,请使用显存计算器或大语言模型 GPU 要求表。

供货情况与交付日期

上方每张卡片都实时显示库存。有现货的单卡服务器在 1 个工作日内交付,有现货的 8 卡服务器在 3 个工作日内交付;库存有限时,单卡服务器请预留 3 个工作日,8 卡服务器请预留 7 个工作日。确切的交付日期总会在您付款前显示;如果我们未能按期交付,您将获得全额退款至余额。交付指南说明了交付日期如何确定,我们的 GPU 短缺指南则解释了 2026年整个行业的算力为何紧张。

不确定哪款 GPU 合适?

输入模型、精度和上下文长度,即可查看所需显存,以及所有装得下的配置。

打开显存计算器 与按小时价格对比

常见问题

按月租用 GPU 服务器常见问题

以下为简要说明。详细内容请查阅帮助中心;拥有运行中服务器的客户可通过工单获得 7×24 小时解答。

访问帮助中心
什么是按月租用的 GPU 服务器?

以固定价格按月租用的独立 GPU 服务器:整张 GPU、CPU、内存、NVMe 和流量都为您保留,并提供 root 权限。在您取消之前,它每月从您的预付余额续费。

多快能拿到 GPU 服务器?

有现货的单卡服务器在 1 个工作日内交付,有现货的 8 卡服务器在 3 个工作日内交付。确切日期会在您付款前显示;如果我们未能按期交付,全部款项将退回您的余额。

按月租用的 GPU 服务器可以随时取消吗?

可以。在下次续费前取消,就不会再产生任何费用。没有取消费,除了已付费的那个月,也没有其他最短期限要求。

GPU 会与其他客户共享吗?

不会。每张 GPU 都整张分配给一位客户,没有 vGPU 切分、MIG 分区或分时共享。

如何支付 GPU 服务器费用?

从以美元计价的余额中支付;余额可通过 Bitcoin、Ethereum、Monero、TRON 网络上的 USDT 或 Solana 充值,大额充值最高可获 50% 赠送额度。银行卡支付即将推出。

70B 模型应该租用哪款 GPU?

在 FP8 精度下,70B 模型的权重约需 71 GB,另需为 KV 缓存留出空间,因此一张 141 GB 的 H200 就能从容运行。在 BF16 精度下,仅权重就约需 141 GB,这需要一张 B200、一张 B300,或 8 卡服务器上的两张 GPU。

部署 GPU 服务器

本月即可用上您的 GPU 服务器。

选择配置,在同一表单中创建账户,并用余额支付首月费用。承诺交付日期会在您付款前显示,未能按期交付即全额退款。

  • 付款前显示承诺交付日期
  • 任何月份均可取消
  • 加密货币支付,最高加赠 50%

登录 FullGPU

管理您的 GPU 服务器、余额和账单。

首次使用 FullGPU? 创建账户