租用独享 NVIDIA L40S，每月 US$890

向我们租用 NVIDIA L40S 算力，您将在独享虚拟机中获得一整张配备 48 GB GDDR6 显存的 Ada Lovelace 架构 GPU，每月 US$890。它是我们入门级的数据中心 GPU：显存足以容纳 BF16 精度的 7B–14B 语言模型，也能胜任图像生成和 GPU 渲染，而且现在就有现货。

L40S 是什么，以及它在 2026年的定位

L40S 是 NVIDIA 基于 Ada Lovelace 架构的数据中心 GPU。根据 NVIDIA 公布的规格，它配备 48 GB GDDR6 显存，带宽 864 GB/s；Tensor Core 支持 FP8，FP8 稠密算力 733 TFLOPS（稀疏算力 1,466 TFLOPS），另有 362 TFLOPS 的 BF16 稠密算力。它是一张 350 W 的 PCIe Gen4 卡，没有 NVLink。与 H100 等纯计算 GPU 不同，它还配备 RT Core 和 NVENC 视频编码器，因此同一张卡既能提供模型推理服务，也能渲染场景和转码视频。

2026年，它处于我们数据中心 GPU 产品线中的高性价比一端。H100 的显存带宽约为它的 3.9 倍，NVIDIA 标称的 FP8 稠密算力是它的 2.7 倍，这对大模型和高并发很重要。当您的模型能装进 48 GB、且每月账单比峰值吞吐量更重要时，L40S 就是合理的选择。价格比它更低的 GeForce RTX 5090 带宽更高（1.79 TB/s），但只有 32 GB 显存；L40S 多出的 16 GB，正是 14B 模型能以 BF16 精度运行并保留可用 KV 缓存的关键，也能让图像流水线把文本编码器常驻在显存中。我们的 L40S 与 H100 对比和 RTX PRO 6000 与 L40S 对比分别从两个方向做了比较。

48 GB 显存能装下什么

权重大约需要每个参数 2 字节（BF16）、1 字节（FP8）或 0.5 字节（4 位），再加上 KV 缓存和 10–30% 的余量。

• BF16 精度的 7B–8B 模型：权重约 16 GB，扣除余量后还剩约 25 GB 可用于 KV 缓存，足以从容支撑聊天、RAG 和智能体后端。
• BF16 精度的 14B 模型：约 28 GB，还剩约 15 GB 可用于 KV 缓存。在 FP8 精度下，同一模型约占 14 GB。
• 32B 模型：FP8 精度下约 32 GB，适用于较短的上下文和适度的并发；4 位量化下约 16 GB，空间十分充裕。
• 70B 模型：FP8 精度下约 70 GB，装不下。4 位量化下约 35 GB，可以装下，但留给 KV 缓存的空间太少，不适合生产环境使用。请改用 96 GB 的 RTX PRO 6000；如需更多 KV 缓存空间，可改用 H200。
• 图像生成：约有 3.5B 参数的 SDXL 可以用大批次运行；FLUX.1 等 12B 参数的模型在 BF16 精度下约 24 GB，可以连同其文本编码器一起装下。

在训练方面，在 BF16 精度下对 8B 模型做 LoRA，以及对约 32B 以内的模型做 QLoRA，都能轻松装下。对 70B 模型做 QLoRA 也可行，但只能勉强装下。使用 Adam 做全参数微调时，每个参数大约需要 16–20 字节，因此在 48 GB 显存上只能用于约 1–2B 参数的小模型。我们关于大语言模型（LLM）需要多少显存的文章解释了计算中 KV 缓存的部分。

渲染、视频与图形工作负载

L40S 的 RT Core 可以加速 GPU 渲染器，例如使用 OptiX 的 Blender Cycles、Redshift 和 Octane。场景必须能装进 GPU 的 48 GB 显存，否则渲染器会退回到较慢的核外（out-of-core）模式（如果它支持的话）；对许多外观开发（look-dev）和中等规模的场景来说，48 GB 已经足够。NVENC 编码器可以在运行 AI 任务的同时处理视频转码，例如在同一台机器上对生成流水线的输出进行编码。如果您的场景超出 48 GB，RTX PRO 6000 的显存是它的两倍。有关渲染工作负载的更多内容，请参阅渲染与视效。

L40S 服务器上的软件

虚拟机提供 SSH root 权限，系统为 Ubuntu 22.04 或 24.04，预装 NVIDIA 驱动、CUDA、Docker 和 NVIDIA Container Toolkit；Debian 或 Rocky Linux 可应要求提供。Ada 的 Tensor Core 支持 FP8，vLLM 和 TensorRT-LLM 在这款 GPU 上都会使用它，因此 FP8 检查点可以走硬件 FP8 路径运行。一个典型的小模型推理端点：

vllm serve <your-8b-model> --quantization fp8 --max-model-len 32768 \
  --host 127.0.0.1 --port 8000

绑定到 localhost 可以让推理端点保持私密，直到您在它前面加上自己的鉴权机制。我们的使用 vLLM 自托管推理指南有更深入的介绍。

L40S 价格：每月与每 GPU 小时

L40S 每月 US$890，如果全月 730 小时都在运行，约合每 GPU 小时 US$1.22。对于全天候在线的推理端点、渲染队列或永远处理不完的批处理流水线，这个固定价格就是全部费用。偶尔运行的任务则不然：如果每月只使用 100 小时，实际成本为每个使用小时 US$8.90，在别处按小时计费通常更便宜。盈亏平衡点就是 US$890 除以您需要支付的小时单价。

选型时要避开一个陷阱：两个 L40S 套餐每月 US$1,780，得到的是分布在两张 GPU 上的 96 GB；而一张 RTX PRO 6000 每月 US$1,390，单卡就有 96 GB。如果您的模型需要超过 48 GB，显存更大的这张卡既更简单，也更便宜，因为不需要把任何东西拆分到多张 GPU 上。

价格包含每月 20 TB 出站流量，额度内不收取出站流量费；另含一个公网 IPv4 地址和一个 IPv6 /64 网段、DDoS 防护、工程师 7×24 小时支持，以及 99.9% 可用性 SLA（服务等级协议）。不收取开通费。L40S 仅提供单卡套餐；如果您租用多张，可应要求在您的服务器之间开通私有网络。

订购 L40S

只需一张表单即可部署 L40S：选择套餐，设置操作系统镜像、可选的预装软件和登录方式（root 密码或 SSH 密钥），免费创建账户或登录，然后用预付余额支付首月费用；余额可通过 BTC、ETH、XMR、TRON 网络上的 USDT 或 SOL 充值（银行卡支付即将推出）。服务器在付款后 10 分钟内交付，IP 地址和 SSH 登录信息会显示在您的控制台中。如果已付款的服务器未能在当天交付，您可以取消订单，全额退款至余额；此后的任何月份也都可以免费取消，服务器会一直运行到已付费月份结束。下单前如需选型，请使用显存计算器。