# 用于 AI 绘图与视频生成的独享 GPU

> 如何为 AI 绘图与视频生成选择 GPU：本文给出 Stable Diffusion、Flux 和视频模型在独享 GPU 上的大致显存需求。比较各款显卡，找到适合您工作流的那一张。

来源：https://fullgpu.com/zh/solutions/generative-media  
更新日期：2026-10-23  
发布方：FullGPU (https://fullgpu.com/)

## 要点

- **不必排在其他租户后面:** GPU 整月只分配给您一人，因此唯一的队列就是您自己的队列。
- **满足视频生成的显存:** 单张 RTX PRO 6000 配备 96 GB GDDR7，适合视频模型、大批次和 LoRA 训练。
- **自建软件栈:** 拥有 root 权限，可自行安装 ComfyUI、自定义节点、检查点和 LoRA，Docker 已就绪。
- **充足的输出流量:** 单卡套餐每月含 20 TB 出站流量，不收取出站流量费。
- **一台服务器，8 张 GPU:** 8× RTX PRO 6000 服务器可让每张 GPU 运行一条流水线，用于批量生产。

## 推荐配置

- [NVIDIA RTX PRO 6000 Blackwell](https://fullgpu.com/zh/gpus/nvidia-rtx-pro-6000): 每月 US$1,390 — 96 GB：运行视频模型和大批次，无需卸载
- [NVIDIA GeForce RTX 5090](https://fullgpu.com/zh/gpus/nvidia-rtx-5090): 每月 US$449 — 32 GB 高速 GDDR7，适合 SDXL 和 FP8 Flux 流水线
- [NVIDIA L40S](https://fullgpu.com/zh/gpus/nvidia-l40s): 每月 US$890 — 48 GB：BF16 精度的 Flux，并为 LoRA 和 ControlNet 留出空间

## 概览

适合 AI 绘图和视频生成的 GPU，是能把整条流水线都放进显存的那一款：扩散模型及其文本编码器、VAE、您的 LoRA 和 ControlNet，再加上与您的分辨率和批大小相应的激活值。所有组件都常驻显存时，步骤之间就不会有任何内容被换出。我们按月出租整张 NVIDIA GPU，从 32 GB 的 RTX 5090 到 96 GB 的 RTX PRO 6000，您的任务永远不必排在其他租户的任务后面。

## Stable Diffusion、Flux 与视频模型的显存需求

以下数字均为估算值，会随分辨率、批大小、精度以及您所用的工具而变化。请把它们当作起点，而不是承诺。

| 流水线 | 显存（估算） | 宽裕运行的显卡 |
| --- | --- | --- |
| 1024 × 1024 分辨率的 SDXL | 约 8–16 GB | RTX 5090、L40S、RTX PRO 6000 |
| 采用 FP8 权重的 Flux.1 [dev] | 约 20 GB | RTX 5090 及以上 |
| BF16 精度的 Flux.1 [dev] | 约 35–40 GB | L40S、RTX PRO 6000 |
| BF16 精度的 13–14B 视频模型 | 权重约 28 GB，另加随分辨率和帧数增长的激活值 | RTX PRO 6000；L40S 需采用 FP8 权重或卸载 |

背后的计算如下：SDXL 的 UNet 和文本编码器合计约 35 亿参数，FP16 精度下约 7 GB。Flux.1 [dev] 是一个 120 亿参数的 Transformer，仅它本身在 BF16 精度下就约占 24 GB，其 T5-XXL 文本编码器还要再占约 9–10 GB。视频模型的激活值显存会随帧数成倍增加，因此 13–14B 模型生成 720p 片段时，除非进行量化或卸载，往往需要超过 48 GB。训练 LoRA 时，还要在这些推理数字的基础上加上优化器状态和激活值。

## 如何为 AI 绘图与视频生成选择 GPU

- **RTX 5090，32 GB GDDR7。**一张高速 Blackwell 显卡，每月 US$449，适合 SDXL、FP8 精度的 Flux、图像放大和较小的视频模型。当多个大型模型必须同时保持加载时，显存就会吃紧。
- **L40S，48 GB GDDR6。**足以让 BF16 精度的 Flux 连同 LoRA 和 ControlNet 常驻显存，每月 US$890。它支持 FP8，但不支持 FP4。
- **RTX PRO 6000 Blackwell，96 GB 带 ECC 的 GDDR7。**适合视频模型、大批次、LoRA 训练以及串联多个模型的工作流，每月 US$1,390；根据 NVIDIA 的规格，显存带宽为 1.6 TB/s。更多信息请参阅 [RTX PRO 6000 页面](https://fullgpu.com/zh/gpus/nvidia-rtx-pro-6000)。
- **8× RTX PRO 6000 服务器。**8 张 GPU 共 768 GB 显存，每张 GPU 运行一条流水线，适合批量生产，每月 US$10,490。

当您卸载或缓存模型时，系统内存也很重要：RTX 5090 套餐为 64 GB，L40S 为 128 GB，RTX PRO 6000 为 188 GB。在两款 Blackwell 显卡之间犹豫不决？我们的 [RTX 5090 与 RTX PRO 6000 对比](https://fullgpu.com/zh/compare/rtx-5090-vs-rtx-pro-6000)对二者做了逐项比较。如果您要从零开始训练扩散模型或视频模型，而不只是运行它们，请改为考虑 H100、H200 和 B200。

## 吞吐量、批处理与队列

在独享 GPU 上，吞吐量取决于您的工作流，而不是其他租户的负载。养成以下三个习惯，就能充分发挥它的性能：

- **让模型常驻显存。**只要显存允许，ComfyUI 会在两次运行之间把已加载的模型保留在显存中；而每个任务都要换入换出大型模型的工作流，时间都花在了搬运权重上。有了 96 GB，图像模型、视频模型和放大模型可以同时保持加载。
- **找到合适的批大小。**更大的批次会提高每分钟生成的图像数，直到 GPU 饱和；此后只会增加延迟。请针对您的分辨率和采样器，测出这个临界点在哪里。
- **每张 GPU 运行一个进程。**每个 ComfyUI 实例只驱动一张 GPU，因此在多 GPU 服务器上，请为每张 GPU 启动一个实例，并把任务分配到各个实例上。

```
python main.py --cuda-device 0 --port 8188
python main.py --cuda-device 1 --port 8189
```

FP8 检查点能把权重显存减少约一半，质量差异通常很小；Blackwell 显卡还支持 FP4。在把生产工作切换过去之前，请用几个种子并排比较效果。

## 用您自己的图片训练 LoRA

训练 LoRA 时，要在推理所占显存的基础上，再加上适配器梯度、优化器状态和训练时的激活值。粗略来说，启用梯度检查点后，SDXL LoRA 训练约需 16–24 GB。使用量化基座模型训练 Flux LoRA 约需 24 GB；而基于完整的 BF16 基座模型训练，在 48 GB 或更大的显存上要宽裕得多。kohya_ss sd-scripts、SimpleTuner 和 ai-toolkit 等训练工具都在 Linux 上运行，所用的 CUDA 软件栈与 ComfyUI 相同，因此同一台服务器既能训练风格 LoRA 或产品 LoRA，又能直接部署它提供生成服务，无需在机器之间搬运文件。在独享 GPU 上，长时间的训练永远不会与其他租户的任务争抢资源，您的数据集、标注文本和检查点在两次训练之间都保存在本地 NVMe 上：RTX 5090 和 L40S 套餐为 1 TB，RTX PRO 6000 为 1.92 TB。

## 环境搭建、安全与输出

我们的 Ubuntu 镜像包含 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit，因此您可以按照我们的 [Docker 指南](https://fullgpu.com/zh/docs/docker-containers)在容器中运行 ComfyUI 或 diffusers，也可以在 Python 环境中运行。不要把 ComfyUI 端口暴露在公网上，而应通过 SSH 隧道访问，具体做法见我们的 [SSH 访问指南](https://fullgpu.com/zh/docs/ssh-access)：

```
ssh -L 8188:localhost:8188 -l your-user your-server-ip
```

输出内容计入出站流量：单卡套餐每月所含的 20 TB，约相当于一千万张 2 MB 的图片或一百万段 20 MB 的视频片段，且不收取出站流量费。商用之前请查看每个模型的许可协议，因为部分开放权重的图像和视频模型限制商业用途；同时，请确保您的使用符合我们的[可接受使用政策](https://fullgpu.com/zh/legal/acceptable-use)。

按月租用的 GPU 适合日常生产、客户项目以及每天运行的生成后端。如果只是一次性的周末实验，在别处按小时租用会更便宜。开始使用时，请[部署服务器](https://fullgpu.com/zh/deploy)：选择配置，免费创建账户或登录，然后用预付余额支付首月费用；余额通过加密货币充值。服务器会在付款后 10 分钟内交付，您还可以在给我们工程师的备注中描述您的模型、分辨率和生成量。

## 常见问题

### 运行 Flux 需要多少显存？

要让 Flux.1 [dev] 及其文本编码器以 BF16 精度常驻显存，约需 35–40 GB；采用 FP8 权重则约需 20 GB。48 GB 的 L40S 或 96 GB 的 RTX PRO 6000 能宽裕地运行 BF16，32 GB 的 RTX 5090 则适合 FP8。

### RTX 5090 运行 Stable Diffusion 够用吗？

对于 SDXL 和大多数图像流水线来说够用，它们在 1024 × 1024 分辨率下约需 8–16 GB。运行大型视频模型或同时加载许多模型时，32 GB 就会吃紧。

### 可以在 FullGPU 的服务器上运行 ComfyUI 吗？

可以。您通过 SSH 获得 root 权限，在 Docker 或 Python 环境中自行安装 ComfyUI、自定义节点和模型，并通过 SSH 隧道访问界面。

### 我的生成任务需要排队吗？

不需要。每张 GPU 只分配给一位客户，不切分，也不分时共享，因此唯一的队列就是您自己运行的队列。

### 可以用服务器做商业客户项目吗？

可以，但须遵守我们的可接受使用政策。您需要对所运行模型和工具的许可负责，部分开放权重模型限制商业用途。

## 相关页面

- [租用 RTX PRO 6000 Blackwell 服务器，每月 US$1,390 起](https://fullgpu.com/zh/gpus/nvidia-rtx-pro-6000): RTX PRO 6000 租用：单张 96 GB Blackwell GPU US$1,390/月（全天候满载约合每 GPU 小时 US$1.90），8 卡服务器 US$10,490/月。独享，使用加密货币支付。
- [租用独享 RTX 5090 云服务器，每月 US$449](https://fullgpu.com/zh/gpus/nvidia-rtx-5090): 租用一整张 RTX 5090（32 GB GDDR7），运行在独享虚拟机中，US$449/月（全天候满载约合每 GPU 小时 US$0.62）。适用于图像生成、小型大语言模型和开发工作。
- [RTX 5090 与 RTX PRO 6000 对比：32 GB 显存什么时候够用？](https://fullgpu.com/zh/compare/rtx-5090-vs-rtx-pro-6000): RTX 5090 与 RTX PRO 6000 对比：US$449/月的 32 GB 显卡，还是 US$1,390/月、支持 ECC 和 MIG 的 96 GB 专业卡？看清 32 GB 显存究竟何时足以胜任您的工作。
- [RTX PRO 6000 与 L40S 对比：升级到 96 GB 值得吗？](https://fullgpu.com/zh/compare/rtx-pro-6000-vs-l40s): RTX PRO 6000 与 L40S 对比，涵盖渲染、生成式媒体和推理：96 GB 对比 48 GB，FP4 对比 FP8，US$1,390/月对比 US$890/月。看看您的工作究竟需要哪张卡。
- [使用 NVIDIA Container Toolkit 运行 Docker GPU 容器](https://fullgpu.com/zh/docs/docker-containers): NVIDIA Container Toolkit 的 Docker GPU 指南：使用 --gpus 参数、选择设备、在 Compose 中预留 GPU、解决 PyTorch 共享内存不足问题，并运行 ROCm 容器。
- [大语言模型显存计算器：您的模型能装进 GPU 吗？](https://fullgpu.com/zh/tools/vram-calculator): 免费 LLM 显存计算器：选择 Llama、Qwen、Mistral 或 gpt-oss，设置精度和上下文长度，即可查看权重和 KV 缓存各占多少显存，以及哪些 GPU 装得下该模型。