单卡 GPU 服务器租用：独享虚拟机中的整张 GPU

在 FullGPU，单卡 GPU 服务器租用是指：一整张物理 GPU，以直通方式接入仅供您使用的虚拟机。随附的 vCPU、内存和本地 NVMe 存储均由该虚拟机独享，您通过 SSH 以 root 身份登录。您每月支付一个固定价格，从 GeForce RTX 5090 的 US$449，到配备 288 GB HBM3e 的 NVIDIA B300 的 US$5,190 不等。

单卡 GPU 服务器租用如何运作

每个套餐都是一台独享的 GPU 虚拟机。虚拟化层（hypervisor）把整张 GPU 直通给您的虚拟机，因此由客户机操作系统加载 NVIDIA 驱动，并直接驱动这张卡。在虚拟机内运行 nvidia-smi，您会看到这张 GPU 的全部显存。没有其他租户能分走其中任何一部分：在您的代码和硬件之间，没有 vGPU，没有 MIG 分区，也没有分时调度器。

除 GPU 之外，每台单卡服务器还配备：

• 一个公网 IPv4 地址和一个 IPv6 /64 网段，公网 IP 均有 DDoS 防护。
• 通过 SSH 密钥或密码获得 root 访问，预装 GPU 软件栈的 Ubuntu 镜像，以及可免费为您预装的软件，详见我们的操作系统镜像页面。
• 涵盖电力、网络和硬件的 99.9% 月度可用性 SLA（服务等级协议）；如果未达标，我们将提供服务赔偿额度。
• 本地 NVMe 存储，更换客户时会被安全擦除。

7 款单卡套餐对比

主机资源随套餐升级而增加：在下表中位置越靠上，随 GPU 一起提供的 vCPU、内存、NVMe 和网络带宽就越多。

一个月约为 730 小时。全天候满载使用时，H100 约合每 GPU 小时 US$3.00，RTX 5090 约合 US$0.62。如果您每周只需要使用几个小时 GPU，按小时计费通常更合适。我们的按月与按小时计费对比详细分析了其中的取舍。

什么情况下一张 GPU 就够用

起决定作用的通常是显存。粗略估算，模型权重约为参数量 × 每个参数的字节数（BF16 为 2，FP8 为 1，FP4 为 0.5）。再加上 KV 缓存和运行时开销，然后在此基础上预留 10–30% 的余量。

• 小模型和图像流水线。8B 模型在 BF16 精度下约需 16 GB，在 32 GB 的 RTX 5090 或 48 GB 的 L40S 上都能为 KV 缓存留出空间。
• 70B 级模型推理。FP8 精度下约需 70 GB：单张 H100 只能勉强装下，H200 则空间充裕。BF16 精度下约需 140 GB，因此 H200 只能勉强装下，B200 或 B300 则空间充裕。
• 微调。LoRA 和 QLoRA 所需的显存远少于全参数微调。使用 Adam 进行全参数微调时，不计激活值，每个参数大约需要 16–20 字节，因此即使是 7B 模型也需要约 112–140 GB。这就意味着要选择 B200 或 B300。
• 渲染和生成式媒体。大型场景、视频模型和大批次任务，都能受益于 RTX PRO 6000 的 96 GB 显存。

如需针对您自己的模型、精度和上下文长度计算这些数字，请使用显存计算器。

独享 GPU 虚拟机的局限

一个单卡套餐，就是一台虚拟机中的一张 GPU。两个套餐就是两台独立的机器，它们通过网络而不是 NVLink 通信。当一个模型必须拆分到多张 GPU 上时，例如模型超过 B300 的 288 GB 显存，或者训练任务需要张量并行，请改选 8 卡服务器。它是裸金属服务器，HGX 系统上的 GPU 之间通过 NVLink 互联，每月流量为 50 TB，而不是 20 TB。

8 卡服务器按 GPU 计的成本也略低。8 个单卡 H100 套餐每月合计 US$17,520，而一台 HGX H100 服务器每月 US$16,900。裸金属服务器还让您独享整台机器：两颗 CPU、全部系统内存和每一块硬盘。

升级与下单

您不会被锁定在某一规格上。最短期限为一个月，套餐从您的账户余额自动续费，每次续费前都会通过电子邮件提醒您；任何月份均可在控制台免费取消。取消后，服务器会一直运行到已付费月份结束。

如需升级，例如上下文变长后从 H100 换到 H200，请在控制台提交工单。变更视库存而定，我们会在您付款前以书面形式确认新的配置和价格，新服务器在付款后 10 分钟内交付。作为工程师上手协助的一部分，我们的工程师可以就数据迁移为您提供建议；升级与变更指南介绍了具体细节。

首次下单只需在部署页面填写一张表单：选择配置，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），免费创建账户或登录，然后用余额支付首月费用；余额可用加密货币充值。服务器在付款后 10 分钟内交付，IP 地址和 SSH 登录信息显示在您的控制台中；如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。