用于 AI 绘图与视频生成的独享 GPU

适合 AI 绘图和视频生成的 GPU，是能把整条流水线都放进显存的那一款：扩散模型及其文本编码器、VAE、您的 LoRA 和 ControlNet，再加上与您的分辨率和批大小相应的激活值。所有组件都常驻显存时，步骤之间就不会有任何内容被换出。我们按月出租整张 NVIDIA GPU，从 32 GB 的 RTX 5090 到 96 GB 的 RTX PRO 6000，您的任务永远不必排在其他租户的任务后面。

Stable Diffusion、Flux 与视频模型的显存需求

以下数字均为估算值，会随分辨率、批大小、精度以及您所用的工具而变化。请把它们当作起点，而不是承诺。

背后的计算如下：SDXL 的 UNet 和文本编码器合计约 35 亿参数，FP16 精度下约 7 GB。Flux.1 [dev] 是一个 120 亿参数的 Transformer，仅它本身在 BF16 精度下就约占 24 GB，其 T5-XXL 文本编码器还要再占约 9–10 GB。视频模型的激活值显存会随帧数成倍增加，因此 13–14B 模型生成 720p 片段时，除非进行量化或卸载，往往需要超过 48 GB。训练 LoRA 时，还要在这些推理数字的基础上加上优化器状态和激活值。

如何为 AI 绘图与视频生成选择 GPU

• RTX 5090，32 GB GDDR7。一张高速 Blackwell 显卡，每月 US$449，适合 SDXL、FP8 精度的 Flux、图像放大和较小的视频模型。当多个大型模型必须同时保持加载时，显存就会吃紧。
• L40S，48 GB GDDR6。足以让 BF16 精度的 Flux 连同 LoRA 和 ControlNet 常驻显存，每月 US$890。它支持 FP8，但不支持 FP4。
• RTX PRO 6000 Blackwell，96 GB 带 ECC 的 GDDR7。适合视频模型、大批次、LoRA 训练以及串联多个模型的工作流，每月 US$1,390；根据 NVIDIA 的规格，显存带宽为 1.6 TB/s。更多信息请参阅 RTX PRO 6000 页面。
• 8× RTX PRO 6000 服务器。8 张 GPU 共 768 GB 显存，每张 GPU 运行一条流水线，适合批量生产，每月 US$10,490。

当您卸载或缓存模型时，系统内存也很重要：RTX 5090 套餐为 64 GB，L40S 为 128 GB，RTX PRO 6000 为 188 GB。在两款 Blackwell 显卡之间犹豫不决？我们的 RTX 5090 与 RTX PRO 6000 对比对二者做了逐项比较。如果您要从零开始训练扩散模型或视频模型，而不只是运行它们，请改为考虑 H100、H200 和 B200。

吞吐量、批处理与队列

在独享 GPU 上，吞吐量取决于您的工作流，而不是其他租户的负载。养成以下三个习惯，就能充分发挥它的性能：

• 让模型常驻显存。只要显存允许，ComfyUI 会在两次运行之间把已加载的模型保留在显存中；而每个任务都要换入换出大型模型的工作流，时间都花在了搬运权重上。有了 96 GB，图像模型、视频模型和放大模型可以同时保持加载。
• 找到合适的批大小。更大的批次会提高每分钟生成的图像数，直到 GPU 饱和；此后只会增加延迟。请针对您的分辨率和采样器，测出这个临界点在哪里。
• 每张 GPU 运行一个进程。每个 ComfyUI 实例只驱动一张 GPU，因此在多 GPU 服务器上，请为每张 GPU 启动一个实例，并把任务分配到各个实例上。

python main.py --cuda-device 0 --port 8188
python main.py --cuda-device 1 --port 8189

FP8 检查点能把权重显存减少约一半，质量差异通常很小；Blackwell 显卡还支持 FP4。在把生产工作切换过去之前，请用几个种子并排比较效果。

用您自己的图片训练 LoRA

训练 LoRA 时，要在推理所占显存的基础上，再加上适配器梯度、优化器状态和训练时的激活值。粗略来说，启用梯度检查点后，SDXL LoRA 训练约需 16–24 GB。使用量化基座模型训练 Flux LoRA 约需 24 GB；而基于完整的 BF16 基座模型训练，在 48 GB 或更大的显存上要宽裕得多。kohya_ss sd-scripts、SimpleTuner 和 ai-toolkit 等训练工具都在 Linux 上运行，所用的 CUDA 软件栈与 ComfyUI 相同，因此同一台服务器既能训练风格 LoRA 或产品 LoRA，又能直接部署它提供生成服务，无需在机器之间搬运文件。在独享 GPU 上，长时间的训练永远不会与其他租户的任务争抢资源，您的数据集、标注文本和检查点在两次训练之间都保存在本地 NVMe 上：RTX 5090 和 L40S 套餐为 1 TB，RTX PRO 6000 为 1.92 TB。

环境搭建、安全与输出

我们的 Ubuntu 镜像包含 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit，因此您可以按照我们的 Docker 指南在容器中运行 ComfyUI 或 diffusers，也可以在 Python 环境中运行。不要把 ComfyUI 端口暴露在公网上，而应通过 SSH 隧道访问，具体做法见我们的 SSH 访问指南：

ssh -L 8188:localhost:8188 -l your-user your-server-ip

输出内容计入出站流量：单卡套餐每月所含的 20 TB，约相当于一千万张 2 MB 的图片或一百万段 20 MB 的视频片段，且不收取出站流量费。商用之前请查看每个模型的许可协议，因为部分开放权重的图像和视频模型限制商业用途；同时，请确保您的使用符合我们的可接受使用政策。

按月租用的 GPU 适合日常生产、客户项目以及每天运行的生成后端。如果只是一次性的周末实验，在别处按小时租用会更便宜。开始使用时，请部署服务器：选择配置，免费创建账户或登录，然后用预付余额支付首月费用；余额通过加密货币充值。承诺交付日期会在付款前显示，您还可以在给我们工程师的备注中描述您的模型、分辨率和生成量。