# 单卡 GPU 服务器租用：独享虚拟机中的整张 GPU

> 单卡 GPU 服务器租用：一整张 GPU，运行在您独享的云虚拟机中，型号从 RTX 5090 到 B300 可选。提供 root 权限，每月含 20 TB 流量，按月计费，付款后 10 分钟内交付。

来源：https://fullgpu.com/zh/products/single-gpu-servers  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

## 要点

- **整卡直通:** GPU 的全部显存和算力都归您的虚拟机所有。没有 vGPU 切分，没有 MIG 分区，也没有分时共享。
- **独享 vCPU、内存和 NVMe:** 每个套餐都有专属的 vCPU、内存和本地 NVMe 存储，从 16 个 vCPU 和 64 GB 内存，到 28 个 vCPU 和 384 GB 内存。
- **7 款 GPU 可选:** 从配备 32 GB 显存、每月 US$449 的 GeForce RTX 5090，到配备 288 GB HBM3e、每月 US$5,190 的 B300。
- **含 20 TB 流量:** 每月 20 TB 出站流量，遵循合理使用原则，不收取出站流量费。入站流量不计入。
- **通过 SSH 获得 root 权限:** 预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit 的 Ubuntu 22.04 或 24.04。
- **按月计费，任何月份均可取消:** 固定价格，每月从您的余额中预先支付。不收取开通费，也不收取取消费用。

## 推荐配置

- [NVIDIA H200](https://fullgpu.com/zh/gpus/nvidia-h200): 每月 US$3,090 — 141 GB HBM3e：运行 FP8 精度的 70B 模型，并为 KV 缓存留出空间
- [NVIDIA H100 SXM](https://fullgpu.com/zh/gpus/nvidia-h100): 每月 US$2,190 — 80 GB HBM3，适合 LoRA 微调和中等规模模型
- [NVIDIA RTX PRO 6000 Blackwell](https://fullgpu.com/zh/gpus/nvidia-rtx-pro-6000): 每月 US$1,390 — 96 GB GDDR7，适合推理、生成式媒体和渲染

## 概览

在 FullGPU，单卡 GPU 服务器租用是指：一整张物理 GPU，以直通方式接入仅供您使用的虚拟机。随附的 vCPU、内存和本地 NVMe 存储均由该虚拟机独享，您通过 SSH 以 root 身份登录。您每月支付一个固定价格，从 GeForce RTX 5090 的 US$449，到配备 288 GB HBM3e 的 NVIDIA B300 的 US$5,190 不等。

## 单卡 GPU 服务器租用如何运作

每个套餐都是一台独享的 GPU 虚拟机。虚拟化层（hypervisor）把整张 GPU 直通给您的虚拟机，因此由客户机操作系统加载 NVIDIA 驱动，并直接驱动这张卡。在虚拟机内运行 `nvidia-smi`，您会看到这张 GPU 的全部显存。没有其他租户能分走其中任何一部分：在您的代码和硬件之间，没有 vGPU，没有 MIG 分区，也没有分时调度器。

除 GPU 之外，每台单卡服务器还配备：

- 一个公网 IPv4 地址和一个 IPv6 /64 网段，公网 IP 均有 DDoS 防护。
- 通过 SSH 密钥或密码获得 root 访问，预装 GPU 软件栈的 Ubuntu 镜像，以及可免费为您预装的软件，详见我们的[操作系统镜像](https://fullgpu.com/zh/products/os-images)页面。
- 涵盖电力、网络和硬件的 99.9% 月度可用性 SLA（服务等级协议）；如果未达标，我们将提供服务赔偿额度。
- 本地 NVMe 存储，更换客户时会被安全擦除。

## 7 款单卡套餐对比

主机资源随套餐升级而增加：在下表中位置越靠上，随 GPU 一起提供的 vCPU、内存、NVMe 和网络带宽就越多。

| GPU | 显存 | vCPU / 内存 | NVMe | 网络 | 月价 |
| --- | --- | --- | --- | --- | --- |
| NVIDIA B300 | 288 GB HBM3e | 28 / 384 GB | 3.5 TB | 25 Gbps | US$5,190 |
| NVIDIA B200 | 180 GB HBM3e | 26 / 256 GB | 2.75 TB | 25 Gbps | US$4,590 |
| NVIDIA H200 | 141 GB HBM3e | 24 / 240 GB | 2 TB | 25 Gbps | US$3,090 |
| NVIDIA H100 SXM | 80 GB HBM3 | 24 / 225 GB | 2 TB | 25 Gbps | US$2,190 |
| NVIDIA RTX PRO 6000 Blackwell | 96 GB GDDR7 | 16 / 188 GB | 1.92 TB | 10 Gbps | US$1,390 |
| NVIDIA L40S | 48 GB GDDR6 | 16 / 128 GB | 1 TB | 10 Gbps | US$890 |
| NVIDIA GeForce RTX 5090 | 32 GB GDDR7 | 16 / 64 GB | 1 TB | 10 Gbps | US$449 |

一个月约为 730 小时。全天候满载使用时，H100 约合每 GPU 小时 US$3.00，RTX 5090 约合 US$0.62。如果您每周只需要使用几个小时 GPU，按小时计费通常更合适。我们的[按月与按小时计费对比](https://fullgpu.com/zh/compare/monthly-vs-hourly-gpu-pricing)详细分析了其中的取舍。

## 什么情况下一张 GPU 就够用

起决定作用的通常是显存。粗略估算，模型权重约为参数量 × 每个参数的字节数（BF16 为 2，FP8 为 1，FP4 为 0.5）。再加上 KV 缓存和运行时开销，然后在此基础上预留 10–30% 的余量。

- **小模型和图像流水线。**8B 模型在 BF16 精度下约需 16 GB，在 32 GB 的 RTX 5090 或 48 GB 的 L40S 上都能为 KV 缓存留出空间。
- **70B 级模型推理。**FP8 精度下约需 70 GB：单张 H100 只能勉强装下，H200 则空间充裕。BF16 精度下约需 140 GB，因此 H200 只能勉强装下，B200 或 B300 则空间充裕。
- **微调。**LoRA 和 QLoRA 所需的显存远少于全参数微调。使用 Adam 进行全参数微调时，不计激活值，每个参数大约需要 16–20 字节，因此即使是 7B 模型也需要约 112–140 GB。这就意味着要选择 B200 或 B300。
- **渲染和生成式媒体。**大型场景、视频模型和大批次任务，都能受益于 RTX PRO 6000 的 96 GB 显存。

如需针对您自己的模型、精度和上下文长度计算这些数字，请使用[显存计算器](https://fullgpu.com/zh/tools/vram-calculator)。

## 独享 GPU 虚拟机的局限

一个单卡套餐，就是一台虚拟机中的一张 GPU。两个套餐就是两台独立的机器，它们通过网络而不是 NVLink 通信。当一个模型必须拆分到多张 GPU 上时，例如模型超过 B300 的 288 GB 显存，或者训练任务需要张量并行，请改选 [8 卡服务器](https://fullgpu.com/zh/products/8-gpu-servers)。它是裸金属服务器，HGX 系统上的 GPU 之间通过 NVLink 互联，每月流量为 50 TB，而不是 20 TB。

8 卡服务器按 GPU 计的成本也略低。8 个单卡 H100 套餐每月合计 US$17,520，而一台 HGX H100 服务器每月 US$16,900。裸金属服务器还让您独享整台机器：两颗 CPU、全部系统内存和每一块硬盘。

## 升级与下单

您不会被锁定在某一规格上。最短期限为一个月，套餐从您的账户余额自动续费，每次续费前都会通过电子邮件提醒您；任何月份均可在控制台免费取消。取消后，服务器会一直运行到已付费月份结束。

如需升级，例如上下文变长后从 H100 换到 H200，请在控制台提交工单。变更视库存而定，我们会在您付款前以书面形式确认新的配置和价格，新服务器在付款后 10 分钟内交付。作为[工程师上手协助](https://fullgpu.com/zh/products/expert-onboarding)的一部分，我们的工程师可以就数据迁移为您提供建议；[升级与变更指南](https://fullgpu.com/zh/help/upgrades-and-changes)介绍了具体细节。

首次下单只需在[部署页面](https://fullgpu.com/zh/deploy)填写一张表单：选择配置，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），免费创建账户或登录，然后用余额支付首月费用；余额可[用加密货币充值](https://fullgpu.com/zh/pay-with-crypto)。服务器在付款后 10 分钟内交付，IP 地址和 SSH 登录信息显示在您的控制台中；如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额。

## 常见问题

### GPU 会与其他客户共享吗？

不会。整张物理 GPU 直通给您的虚拟机，仅分配给您使用，没有 vGPU 切分、MIG 分区或分时共享。

### 单卡套餐和 8 卡服务器有什么区别？

单卡套餐是一台独享虚拟机，直通一张 GPU，并配有专属的 vCPU、内存和 NVMe。8 卡服务器是一台配备 8 张 GPU 的裸金属机器，HGX 系统上的 GPU 之间通过 NVLink 互联，每月流量为 50 TB，而不是 20 TB。

### 可以在 GPU 上运行 Docker 容器吗？

可以。Ubuntu 镜像已包含 Docker 和 NVIDIA Container Toolkit，而且您拥有完整的 root 权限，可以安装我们的可接受使用政策所允许的任何软件。

### 包含多少流量？

每月 20 TB 出站流量，遵循合理使用原则，不收取出站流量费。入站流量（例如上传数据集）不计入。

### 以后可以换用更大的 GPU 吗？

可以，视库存而定：请在控制台提交工单。我们会在您付款前以书面形式确认新的配置和价格，新服务器在付款后 10 分钟内交付；您可以取消原套餐，它会一直运行到已付费月份结束。

## 相关页面

- [8 卡 GPU 服务器租用：裸金属 NVIDIA HGX 与 AMD Instinct](https://fullgpu.com/zh/products/8-gpu-servers): 裸金属 8 卡 GPU 服务器租用：可选 NVIDIA HGX B300、B200、H200、H100，AMD MI355X 或 8× RTX PRO 6000。每月含 50 TB 流量，按月租用，付款后 10 分钟内交付。
- [租用 NVIDIA H200 与 HGX H200 服务器，每月 US$3,090 起](https://fullgpu.com/zh/gpus/nvidia-h200): 租用独享 NVIDIA H200（141 GB）：单卡 US$3,090/月（全天候满载约合每 GPU 小时 US$4.23），8 卡 HGX H200 US$23,900/月。固定月价，使用加密货币支付。
- [H100 与 H200 对比：Hopper 算力相同，显存差异巨大](https://fullgpu.com/zh/compare/h100-vs-h200): H100 与 H200 对比：Hopper 算力相同，显存与带宽分别为 80 GB、3.35 TB/s 和 141 GB、4.8 TB/s。逐项比较单卡能装下什么、KV 缓存如何估算，以及每月费用。
- [大语言模型显存计算器：您的模型能装进 GPU 吗？](https://fullgpu.com/zh/tools/vram-calculator): 免费 LLM 显存计算器：选择 Llama、Qwen、Mistral 或 gpt-oss，设置精度和上下文长度，即可查看权重和 KV 缓存各占多少显存，以及哪些 GPU 装得下该模型。
- [如何升级 GPU 服务器套餐及进行其他变更](https://fullgpu.com/zh/help/upgrades-and-changes): GPU 服务器套餐可在月中升级，当月剩余时间的费用按比例从余额中扣除；改用更小的套餐则在下次续费时生效，所有变更均视库存而定。了解如何在控制台申请变更。
- [如何为 AI 选择 GPU 服务器](https://fullgpu.com/zh/blog/how-to-choose-a-gpu-server): 如何为 AI 选择 GPU 服务器？本文提供一套完整的选型框架，逐项讲解显存、显存带宽、精度、互联、CPU 与存储、软件生态和计费方式，并附一份下单前检查清单。