NVIDIA · Ada Lovelace
Аренда выделенного NVIDIA L40S за 890 $ в месяц
Целый GPU Ada Lovelace с 48 ГБ GDDR6 и тензорными ядрами FP8 в выделенной виртуальной машине. В наличии по одной фиксированной цене в месяц, оплата с баланса, который вы пополняете криптовалютой.
- Видеопамять
- 48 ГБ GDDR6 ECC
- Пропускная способность
- 864 ГБ/с на GPU
- Интерконнект
- PCIe Gen4 x16
- Форматы тензорных ядер
- FP8 · BF16
- Целый GPU без разделения
- Отмена в любом месяце
- SLA с доступностью 99,9%
- Оплата криптовалютой
Конфигурации и цены
-
1× L40S В наличии
Выделенная ВМ · проброс всего GPU
16 vCPU · ОЗУ 128 ГБ · 1 ТБ NVMe · 10 Гбит/с
890 $/мес.
≈ 1,22 $ за GPU-час
Гарантированная дата выдачи известна до оплаты. Не уложимся в неё — полный возврат средств.
Характеристики
Характеристики L40S и конфигурации серверов
Сначала — опубликованные производителем характеристики GPU, затем — что именно вы получаете в каждом сервере, который мы сдаём в аренду. Всё это ещё раз показывается при оформлении заказа, до оплаты.
NVIDIA L40S
- Архитектура
- Ada LovelaceNVIDIA
- Видеопамять
- 48 ГБ GDDR6 ECC
- Пропускная способность памяти
- 864 ГБ/с
- FP4
- —Не поддерживается
- FP8
- 733 TFLOPS1 466 TFLOPS с разреженностью
- BF16 / FP16
- 362 TFLOPS733 TFLOPS с разреженностью
- Интерконнект GPU
- PCIe Gen4 x16без NVLink
Форм-фактор - Двухслотовая карта PCIe
- Макс. энергопотребление
- 350 Вт
Конфигурации серверов
| Характеристика | 1× L40S |
|---|---|
| GPU | 1 × 48 ГБ GDDR6 |
| Тип сервера | Один GPU |
| Процессор | 16 vCPU |
| Память | 128 ГБ |
| Накопители | 1 ТБ NVMe |
| Сеть | 10 Гбит/с |
| Трафик | 20 ТБ в месяц включено |
| Цена | 890 $/мес. |
Root-доступ по SSH- Ubuntu с драйверами, CUDA и Docker
- IPv4 + IPv6 /64
- Защита от DDoS
Вычислительная мощность указана по спецификациям производителя без разреженности, а там, где это опубликовано, — и со структурированной разреженностью. Реальная производительность зависит от модели, точности и программного стека.
Применение
Для каких задач лучше всего подходит L40S
Где этот GPU оправдывает свою цену в месяц, а когда разумнее выбрать другой.
-
Инференс моделей от 7B до 14B
Модель 8B в BF16 занимает около 16 ГБ, и большая часть из 48 ГБ остаётся под KV-кэш. -
Генерация изображений
SDXL и модели изображений на 12B параметров, такие как FLUX.1, работают в BF16 с запасом под батчи.
-
Рендеринг и медиа
RT-ядра Ada и видеокодеры NVENC для рендеринга с трассировкой лучей и транскодирования. -
LoRA и QLoRA
LoRA для моделей 8B и QLoRA для моделей примерно до 32B помещаются в 48 ГБ.
Рассмотрите вместо него
-
NVIDIA RTX PRO 6000 Blackwell
Когда нужны 96 ГБ на GPU, FP4 или 8-GPU-сервер — от 1 390 $ в месяц. - NVIDIA H100 SXM Для QLoRA на моделях 70B, инференса с большим числом одновременных запросов или обучения, где важны 80 ГБ HBM3 с пропускной способностью 3,35 ТБ/с.
- NVIDIA GeForce RTX 5090 Для прототипирования и генерации изображений, которым хватает 32 ГБ, — за 449 $ в месяц.
Расчёт памяти
Какие модели помещаются на L40S?
| Размер модели | BF16 2 байта/параметр | FP8 1 байт/параметр | 4 бита 0,5 байта/параметр |
|---|---|---|---|
| 8B Класс Llama 3.1 8B | 1 GPU | 1 GPU | 1 GPU |
| 14B Класс Qwen3 14B | 1 GPU | 1 GPU | 1 GPU |
| 32B Класс Qwen3 32B | Не помещается | 1 GPU | 1 GPU |
| 70B Класс Llama 3.3 70B | Не помещается | Не помещается | 1 GPU |
| 120B |
Не помещается | Не помещается | Не помещается |
| 235B Класс Qwen3 235B MoE | Не помещается | Не помещается | Не помещается |
| 405B Класс Llama 3.1 405B | Не помещается | Не помещается | Не помещается |
| 671B |
Не помещается | Не помещается | Не помещается |
Как читать таблицу
- 1 GPUПомещается на один L40S
- впритыкПомещается только с коротким контекстом
- —Не помещается на этот GPU
На примере реальных моделей
Открыть калькулятор видеопамятиКоротко.
Что такое L40S и какое место он занимает в 2026 году
Что помещается в 48 ГБ
- Модели 7B–8B в BF16:
около 16 ГБ весов, и с учётом запаса под KV-кэш остаётся примерно 25 ГБ — этого вполне достаточно для бэкендовчат-ботов , RAG и агентов. - Модели 14B в BF16:
около 28 ГБ, и под KV-кэш остаётся около 15 ГБ. В FP8 та же модель занимает около 14 ГБ. - Модели 32B:
около 32 ГБ в FP8 — это подходит для коротких контекстов и умеренного числа одновременных запросов; в 4-битном формате (около 16 ГБ) места остаётся с избытком. - Модели 70B:
в FP8 (около 70 ГБ) они не помещаются. В 4-битном формате (около 35 ГБ) помещаются, но для продакшена остаётся слишком мало места подKV-кэш. В этом случае лучше перейти на RTX PRO 6000 с 96 ГБ или, чтобы получить больше места подKV-кэш , на H200. - Генерация изображений: SDXL с примерно 3,5B параметров работает с большими батчами, а модель на 12B параметров, такая как FLUX.1 (около 24 ГБ в BF16), помещается вместе со своими текстовыми энкодерами.
Рендеринг, видео и графические задачи
Программное обеспечение на сервере с L40S
vllm serve <your-8b-model> --quantization fp8 --max-model-len 32768 \
--host 127.0.0.1 --port 8000
Привязка к localhost оставляет эндпоинт закрытым, пока вы не поставите перед ним собственную аутентификацию. Подробнее — в нашем руководстве по самостоятельному развёртыванию инференса с vLLM.
Цена L40S в месяц и за GPU-час
Одной ловушки при выборе конфигурации стоит избегать: два тарифа с L40S стоят 1 780 $ в месяц за 96 ГБ, разделённых между двумя GPU, тогда как один RTX PRO 6000 стоит 1 390 $ за 96 ГБ на одной карте. Если вашей модели нужно больше 48 ГБ, карта побольше оказывается и проще, и дешевле, потому что ничего не приходится делить между GPU.
Заказ L40S
Разверните L40S
L40S от 890 $ в месяц
В наличии · гарантированная дата выдачи видна до оплаты.
Сравнить все 15 конфигурацийВопросы и ответы
Аренда L40S: вопросы и ответы
В двух словах. Подробности — в центре помощи, а клиенты с активным сервером получают ответы через тикеты круглосуточно.
Перейти в центр помощиСколько стоит аренда NVIDIA L40S?
Можно ли запустить модель 70B на L40S?
Поддерживает ли L40S FP8?
Да. Его тензорные ядра Ada Lovelace поддерживают FP8; NVIDIA указывает для этого формата 733 TFLOPS без разреженности и 1 466 TFLOPS с разреженностью.
Можно ли получить 8-GPU-сервер с L40S?
Мы предлагаем L40S только в виде тарифа с одним GPU. Если нужно восемь GPU в одном сервере, ближайший вариант — сервер с RTX PRO 6000, а несколько тарифов с одним GPU можно по запросу связать частной сетью.
Используется ли L40S совместно с кем-то или делится на части?
Как быстро можно получить L40S?
На момент написания он есть в наличии, а для сервера с одним GPU из наличия срок выдачи — 1 рабочий день после оплаты. Гарантированная дата выдачи показывается до оплаты, и если мы её пропустим, вы можете отменить заказ с полным возвратом средств на баланс.
Получите сервер с L40S уже в этом месяце.
Выберите конфигурацию, создайте аккаунт в той же форме и оплатите первый месяц с баланса. Гарантированная дата выдачи показывается до оплаты, а если мы её пропустим, вы получите полный возврат средств.
- Гарантированная дата выдачи известна до оплаты
- Отмена в любом месяце
- Оплата криптовалютой, бонус до +50%