# L40S vs H100: какой GPU подходит для вашей задачи и бюджета?

> Сравнение L40S и H100: 48 ГБ GDDR6 и 864 ГБ/с за 890 $/мес. против 80 ГБ HBM3 и 3,35 ТБ/с за 2 190 $. Какие модели помещаются и для чего лучше каждый GPU.

Источник: https://fullgpu.com/ru/compare/l40s-vs-h100  
Обновлено: 2026-10-22  
Издатель: FullGPU (https://fullgpu.com/)

**Коротко:** Для небольших и средних моделей, медиазадач и рендеринга L40S справится с работой за 890 $ в месяц; для обучения, более крупных моделей и инференса LLM, требовательного к пропускной способности, H100 стоит своих 2 190 $.

## Характеристики L40S и H100

| Характеристика | NVIDIA L40S | NVIDIA H100 SXM |
| --- | --- | --- |
| Архитектура | Ada Lovelace | Hopper |
| Видеопамять | 48 ГБ GDDR6 ECC | 80 ГБ HBM3 |
| Пропускная способность памяти | 864 ГБ/с | 3,35 ТБ/с |
| FP4 | — | — |
| FP8 | 733 TFLOPS | 1 979 TFLOPS |
| BF16 / FP16 | 362 TFLOPS | 989 TFLOPS |
| Интерконнект GPU | PCIe Gen4 x16 | NVLink 4 · 900 ГБ/с |
| Форм-фактор | Двухслотовая карта PCIe | Модуль SXM5 · HGX H100 |
| Макс. энергопотребление | 350 Вт | 700 Вт |

## Помесячные цены в FullGPU

| Конфигурация | Тип | Видеопамять | Процессор | ОЗУ | Накопители | Сеть | Цена в месяц (USD) | За GPU-час | Наличие |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [NVIDIA L40S](https://fullgpu.com/ru/gpus/nvidia-l40s) | Один GPU | 48 ГБ GDDR6 | 16 vCPU | 128 ГБ | 1 ТБ NVMe | 10 Гбит/с | 890 $ | 1,22 $ | В наличии, выдача за 1 рабочий день после оплаты |
| [NVIDIA H100 SXM](https://fullgpu.com/ru/gpus/nvidia-h100) | Один GPU | 80 ГБ HBM3 | 24 vCPU | 225 ГБ | 2 ТБ NVMe | 25 Гбит/с | 2 190 $ | 3,00 $ | В наличии, выдача за 1 рабочий день после оплаты |
| [8× NVIDIA HGX H100](https://fullgpu.com/ru/gpus/nvidia-h100) | 8-GPU-сервер | 8 × 80 ГБ HBM3 | 2× Xeon 8480+ · 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G ConnectX-7 | 16 900 $ | 2,89 $ | В наличии, выдача за 3 рабочих дня после оплаты |

За GPU-час = цена в месяц ÷ число GPU ÷ 730 часов. Это значение приводится только для сравнения с почасовыми предложениями: каждый тариф оплачивается по фиксированной цене в месяц.

## Выбирайте L40S, если…

- Ваши модели помещаются в 48 ГБ — например, модели от 7B до 14B в BF16 или примерно до 30B в FP8.
- Вы занимаетесь генерацией изображений или видео, транскодированием или рендерингом на GPU — задачами, которым нужны RT-ядра или видеокодеры.
- Вам нужно больше видеопамяти на каждый доллар, и вы можете масштабироваться за счёт независимых серверов.

## Выбирайте H100, если…

- Вы обучаете модели, проводите их полное дообучение или обслуживаете модели больше 48 ГБ.
- Ваш инференс LLM упирается в пропускную способность памяти, а здесь важны 3,35 ТБ/с против 864 ГБ/с.
- Вам нужно несколько GPU, работающих над одной моделью через NVLink в 8-GPU-сервере.

## Обзор

**Сравнение L40S и H100** сводится к тому, чтобы подобрать GPU под задачу. L40S — карта на архитектуре Ada Lovelace: 48 ГБ GDDR6 с пропускной способностью 864 ГБ/с и шина PCIe Gen4; она рассчитана и на задачи ИИ, и на работу с графикой. H100 SXM — вычислительный ускоритель поколения Hopper: 80 ГБ HBM3 с пропускной способностью 3,35 ТБ/с и NVLink. В FullGPU L40S стоит 890 $ в месяц, а H100 — 2 190 $, поэтому правильный выбор может сэкономить вам 1 300 $ в месяц на каждом GPU, а неправильный — оставить вас с картой, которая не подходит для вашей задачи.

## L40S или H100: краткий ответ

Выбирайте [L40S](https://fullgpu.com/ru/gpus/nvidia-l40s) для инференса моделей, которые помещаются в 48 ГБ, для генерации изображений и видео, а также для рендеринга и транскодирования. Выбирайте [H100](https://fullgpu.com/ru/gpus/nvidia-h100) для обучения, полного дообучения (fine-tuning), моделей больше 48 ГБ и инференса LLM (больших языковых моделей), где темп задаёт пропускная способность памяти. У H100 нет ни RT-ядер, ни аппаратных видеокодеров, поэтому для рендеринга и работы с видео L40S подходит лучше, несмотря на более низкую цену.

## Память: что помещается на каждом GPU

Веса занимают примерно 2 байта на параметр в BF16, 1 байт в FP8 и 0,5 байта в 4-битных форматах, и оба GPU поддерживают FP8 аппаратно. Свободная память в таблице указана до вычета KV-кэша и накладных расходов среды выполнения, поэтому держите 10–30% от неё в резерве.

| Модель и точность | Веса (примерно) | L40S, 48 ГБ | H100, 80 ГБ |
| --- | --- | --- | --- |
| 8B в BF16 | 16 ГБ | Да, свободно около 32 ГБ | Да, свободно около 64 ГБ |
| 14B в BF16 | 28 ГБ | Да, свободно около 20 ГБ | Да, свободно около 52 ГБ |
| 32B в FP8 | 32 ГБ | Да, свободно около 16 ГБ | Да, свободно около 48 ГБ |
| 32B в BF16 | 64 ГБ | Нет | Впритык, свободно около 16 ГБ |
| 70B в 4-битном формате | 35 ГБ | Впритык, свободно около 13 ГБ | Да, свободно около 45 ГБ |
| 70B в FP8 | 70 ГБ | Нет | Впритык, свободно около 10 ГБ |

От свободной памяти зависит и число одновременных запросов. Возьмём модель 14B с механизмом grouped-query attention в распространённой конфигурации (48 слоёв, 8 KV-голов размерностью 128): её KV-кэш в BF16 занимает около 0,2 МБ на токен. После вычета накладных расходов среды выполнения на L40S под кэш остаётся примерно 14 ГБ — около 70 000 токенов, или восемь диалогов по 8K токенов одновременно. На H100 остаётся примерно 44 ГБ — около 220 000 токенов, или примерно 27 таких диалогов.

Модели для изображений и видео обычно меньше LLM, но высокие разрешения и длинные ролики требуют памяти под активации. Модели для изображений, такие как SDXL и модели класса Flux, помещаются в 48 ГБ вместе со своими текстовыми энкодерами, а самым большим моделям для видео может понадобиться больше. Если вам нужно больше 48 ГБ без перехода на Hopper, есть RTX PRO 6000 с 96 ГБ GDDR7 и пропускной способностью 1,6 ТБ/с за 1 390 $ в месяц — см. [сравнение RTX PRO 6000 и H100](https://fullgpu.com/ru/compare/rtx-pro-6000-vs-h100). [Калькулятор видеопамяти (VRAM)](https://fullgpu.com/ru/tools/vram-calculator) посчитает всё это для вашей модели.

## Пропускная способность и вычислительная мощность: почему H100 дороже

Пропускная способность памяти у H100 примерно в 3,9 раза выше, чем у L40S (3,35 ТБ/с против 864 ГБ/с), а производительность в FP8 и BF16 без разреженности, по данным NVIDIA, — примерно в 2,7 раза (1 979 против 733 TFLOPS в FP8, 989 против 362 TFLOPS в BF16). Для инференса LLM важнее всего разрыв в пропускной способности, потому что при генерации каждого токена веса и KV-кэш считываются из памяти. Модель 14B в BF16 работает на обоих GPU, но на H100 на каждом шаге декодирования (decode) память читается почти в четыре раза быстрее, а значит, на каждом GPU можно обслуживать гораздо больше одновременных пользователей.

Диффузионные модели для изображений и видео сильнее упираются в вычислительную мощность, поэтому для них значимый разрыв ближе к соотношению вычислительной мощности, чем к соотношению пропускных способностей. В пересчёте на 1 000 $ ежемесячных расходов два GPU сравниваются так:

- **Память:** Около 54 ГБ у L40S против 37 ГБ у H100.
- **Пропускная способность:** Около 0,97 ТБ/с против 1,53 ТБ/с.
- **FP8 без разреженности, по данным производителя:** Около 824 против 904 TFLOPS.

Из двух GPU L40S даёт больше памяти на каждый доллар, H100 — больше пропускной способности на доллар, а по вычислительной мощности на доллар они близки.

## Медиа, рендеринг и видео: где выигрывает L40S

GPU-рендерерам, которые используют аппаратную трассировку лучей NVIDIA, нужны RT-ядра, а видеопайплайнам, кодирующим видео на GPU, — NVENC. У L40S есть и то и другое, а его видеокодеры поколения Ada поддерживают AV1, а также H.264 и HEVC; у H100 нет ни RT-ядер, ни NVENC, потому что он создан как вычислительный ускоритель. Для узла рендеринга, сервиса транскодирования или пайплайна генерации видео, который завершается кодированием результата, правильный выбор — L40S, причём два сервера с L40S стоят 1 780 $ в месяц — меньше, чем один H100. Рекомендуемые конфигурации — на страницах [о рендеринге и VFX](https://fullgpu.com/ru/solutions/rendering-vfx) и [о генеративном контенте](https://fullgpu.com/ru/solutions/generative-media). Для более тяжёлых сцен есть RTX PRO 6000 с 96 ГБ — он разобран в [сравнении RTX PRO 6000 и L40S](https://fullgpu.com/ru/compare/rtx-pro-6000-vs-l40s).

## Обучение, дообучение и несколько GPU

Для обучения H100 — GPU совсем другого класса. HBM3 успевает снабжать данными его тензорные ядра, в 80 ГБ помещаются более крупные модели и батчи, а в 8-GPU-сервере NVLink 4 соединяет GPU со скоростью 900 ГБ/с на каждый. L40S обменивается данными через PCIe Gen4 без NVLink, и мы предлагаем его в виде сервера с одним GPU. Он хорошо справляется с LoRA или QLoRA для моделей от 7B до 14B и с небольшими экспериментами. QLoRA для модели 70B — около 35 ГБ 4-битных весов — можно втиснуть в 48 ГБ при небольших батчах, но на H100 запас будет гораздо больше. Полному дообучению с Adam нужно примерно 16–20 байт на параметр без учёта активаций, поэтому на карте с 48 ГБ потолок — примерно 2–3B параметров, на одном H100 — примерно 4–5B, а на сервере 8× H100 за 16 900 $ в месяц — гораздо больше.

## Стоимость в месяц и как сделать выбор

Один L40S стоит 890 $ в месяц — около 1,22 $ за GPU-час из расчёта 730 часов — и включает 16 vCPU, 128 ГБ оперативной памяти и 1 ТБ NVMe. Один H100 стоит 2 190 $ — около 3,00 $ за GPU-час — и включает 24 vCPU, 225 ГБ оперативной памяти и 2 ТБ NVMe.

Пример с расчётом: вы обслуживаете модель 14B в BF16 при стабильном трафике. Два сервера с L40S (1 780 $) дают две независимые реплики и резерв на случай, если на одном из них понадобятся технические работы. Один H100 (2 190 $) даёт одну реплику с большей пропускной способностью, чем у обеих карт L40S вместе (3,35 ТБ/с против 1,73 ТБ/с). Если важнее всего резервирование, берите пару L40S; если важнее производительность одной реплики и время отклика — берите H100. О том, как организовать инференс, — на странице [о выделенных серверах для инференса](https://fullgpu.com/ru/solutions/inference).

1. Рендеринг, транскодирование или видео на выходе: L40S.
2. Модель с KV-кэшем примерно до 40 ГБ: L40S, если только вам не нужно много одновременных запросов на одну реплику.
3. От 40 до 70 ГБ или инференс, упирающийся в пропускную способность: H100.
4. Обучение, полное дообучение или модели на нескольких GPU: H100, часто в виде 8-GPU-сервера.

Если сомневаетесь, начните с малого. Оплата помесячная, и вы можете бесплатно отменить аренду в любом месяце, поэтому можно пустить на L40S реальный трафик и перейти на H100, если цифры этого потребуют.

## Часто задаваемые вопросы

### Подходит ли L40S для инференса LLM?

Да, для моделей, которые помещаются в 48 ГБ, — например, от 7B до 14B в BF16 или примерно до 30B в FP8. Для моделей класса 70B или инференса с большим числом одновременных запросов лучше подходят 80 ГБ и 3,35 ТБ/с пропускной способности H100.

### Можно ли использовать H100 для рендеринга?

Он для этого не предназначен: у H100 нет ни RT-ядер, ни аппаратных видеокодеров. Для рендеринга на GPU и работы с видео лучше выбрать L40S или RTX PRO 6000.

### Поддерживает ли L40S формат FP8?

Да. Как GPU на архитектуре Ada Lovelace, он оснащён тензорными ядрами FP8: NVIDIA указывает 733 TFLOPS в FP8 без разреженности против 1 979 TFLOPS у H100.

### Можно ли объединить несколько GPU L40S?

У L40S нет NVLink, и мы сдаём его в аренду как сервер с одним GPU, поэтому он подходит для задач, которые масштабируются независимыми репликами. Частная сеть между вашими серверами доступна по запросу, но для одной модели, распределённой по нескольким GPU, лучше подходит 8-GPU-сервер H100 с NVLink.

### Сколько стоит каждый из них в месяц?

L40S стоит 890 $ в месяц, а H100 — 2 190 $, то есть около 1,22 $ и 3,00 $ за GPU-час при месяце в 730 часов. Оба оплачиваются помесячно авансом без платы за подключение, и отменить аренду можно в любом месяце.

## Связанные страницы

- [Аренда выделенного NVIDIA L40S за 890 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-l40s): Аренда L40S: выделенный NVIDIA L40S 48 ГБ за 890 $/мес. (≈ 1,22 $ за GPU-час 24/7) для инференса, генерации изображений и рендеринга. Оплата криптовалютой.
- [Аренда серверов NVIDIA H100 SXM от 2 190 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-h100): Аренда выделенного NVIDIA H100 SXM за 2 190 $/мес. (≈ 3,00 $ за GPU-час 24/7) или 8-GPU HGX H100 за 16 900 $. Фиксированная цена, гарантированная дата выдачи.
- [RTX PRO 6000 vs L40S: стоит ли доплачивать за 96 ГБ?](https://fullgpu.com/ru/compare/rtx-pro-6000-vs-l40s): RTX PRO 6000 vs L40S для рендеринга, генеративного контента и инференса: 96 против 48 ГБ, FP4 против FP8, 1 390 $ против 890 $/мес. Узнайте, что вам подойдёт.
- [RTX PRO 6000 vs H100: больше памяти или больше пропускной способности?](https://fullgpu.com/ru/compare/rtx-pro-6000-vs-h100): RTX PRO 6000 vs H100: 96 ГБ GDDR7 за 1 390 $/мес. или 80 ГБ HBM3 с NVLink за 2 190 $. Узнайте, что лучше для инференса 70B или обучения на нескольких GPU.
- [GPU-серверы для рендеринга в Blender, Redshift и Octane](https://fullgpu.com/ru/solutions/rendering-vfx): GPU-серверы для рендеринга с RTX PRO 6000 Blackwell на 96 ГБ: до 768 ГБ видеопамяти на сервер, помесячная аренда на время аврала. Подбор и настройка.
- [GPU-серверы для инференса LLM: круглосуточно и по фиксированной цене](https://fullgpu.com/ru/solutions/inference): GPU-серверы для инференса LLM с vLLM, SGLang или TensorRT-LLM: расчёт KV-кэша, FP8 и FP4, 20–50 ТБ трафика включено. Посмотрите расчёты.