# H100 vs H200: одинаковая вычислительная мощность Hopper, очень разная память

> H100 vs H200: та же вычислительная мощность Hopper, 80 ГБ и 3,35 ТБ/с против 141 ГБ и 4,8 ТБ/с. Что помещается на один GPU, расчёт KV-кэша и цена в месяц.

Источник: https://fullgpu.com/ru/compare/h100-vs-h200  
Обновлено: 2026-10-22  
Издатель: FullGPU (https://fullgpu.com/)

**Коротко:** Если ваша модель и её KV-кэш помещаются в 80 ГБ, H100 даёт ту же вычислительную мощность на 900 $ в месяц дешевле; как только они перестают помещаться, H200 со 141 ГБ на одном GPU становится более выгодным выбором.

## Характеристики H100 и H200

| Характеристика | NVIDIA H100 SXM | NVIDIA H200 |
| --- | --- | --- |
| Архитектура | Hopper | Hopper |
| Видеопамять | 80 ГБ HBM3 | 141 ГБ HBM3e |
| Пропускная способность памяти | 3,35 ТБ/с | 4,8 ТБ/с |
| FP4 | — | — |
| FP8 | 1 979 TFLOPS | 1 979 TFLOPS |
| BF16 / FP16 | 989 TFLOPS | 989 TFLOPS |
| Интерконнект GPU | NVLink 4 · 900 ГБ/с | NVLink 4 · 900 ГБ/с |
| Форм-фактор | Модуль SXM5 · HGX H100 | Модуль SXM · HGX H200 |
| Макс. энергопотребление | 700 Вт | 700 Вт |

## Помесячные цены в FullGPU

| Конфигурация | Тип | Видеопамять | Процессор | ОЗУ | Накопители | Сеть | Цена в месяц (USD) | За GPU-час | Наличие |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [NVIDIA H100 SXM](https://fullgpu.com/ru/gpus/nvidia-h100) | Один GPU | 80 ГБ HBM3 | 24 vCPU | 225 ГБ | 2 ТБ NVMe | 25 Гбит/с | 2 190 $ | 3,00 $ | В наличии, выдача за 1 рабочий день после оплаты |
| [8× NVIDIA HGX H100](https://fullgpu.com/ru/gpus/nvidia-h100) | 8-GPU-сервер | 8 × 80 ГБ HBM3 | 2× Xeon 8480+ · 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G ConnectX-7 | 16 900 $ | 2,89 $ | В наличии, выдача за 3 рабочих дня после оплаты |
| [NVIDIA H200](https://fullgpu.com/ru/gpus/nvidia-h200) | Один GPU | 141 ГБ HBM3e | 24 vCPU | 240 ГБ | 2 ТБ NVMe | 25 Гбит/с | 3 090 $ | 4,23 $ | В наличии, выдача за 1 рабочий день после оплаты |
| [8× NVIDIA HGX H200](https://fullgpu.com/ru/gpus/nvidia-h200) | 8-GPU-сервер | 8 × 141 ГБ HBM3e | 2× Xeon 8480+ · 112 ядер | 2 ТБ DDR5 | 8× 3,84 ТБ NVMe | 8× 400G ConnectX-7 | 23 900 $ | 4,09 $ | В наличии, выдача за 3 рабочих дня после оплаты |

За GPU-час = цена в месяц ÷ число GPU ÷ 730 часов. Это значение приводится только для сравнения с почасовыми предложениями: каждый тариф оплачивается по фиксированной цене в месяц.

## Выбирайте H100, если…

- Ваша модель, KV-кэш и батч помещаются в 80 ГБ, и вам нужна минимальная цена в месяц.
- Ваше обучение или дообучение с LoRA помещается в 80 ГБ на GPU, а вычислительная мощность у H200 та же и ничего не добавит.
- Вы обслуживаете модели примерно до 30B параметров или модель 70B в FP8 с короткими промптами и небольшим числом пользователей.

## Выбирайте H200, если…

- Вы обслуживаете модели класса 70B, и вам нужно место для длинных контекстов или множества одновременных запросов.
- Ваш инференс упирается в пропускную способность памяти, а здесь 4,8 ТБ/с выигрывают у 3,35 ТБ/с.
- Вам нужно больше 640 ГБ на одном 8-GPU-сервере — например, для модели на 671B параметров в FP8.

## Обзор

Выбрать между **H100 и H200** проще, чем в большинстве сравнений GPU. Оба — GPU NVIDIA поколения Hopper, и NVIDIA указывает для них одинаковую вычислительную мощность: 989 TFLOPS в BF16 и 1 979 TFLOPS в FP8 без разреженности. Различается память. У H200 141 ГБ HBM3e с пропускной способностью 4,8 ТБ/с, у H100 — 80 ГБ HBM3 с пропускной способностью 3,35 ТБ/с. Правильный выбор зависит от того, сколько памяти нужно вашей модели, её KV-кэшу и вашему батчу, а также от того, во что упирается ваша задача — в вычислительную мощность или в память.

## H100 или H200: краткий ответ

Выбирайте [H100](https://fullgpu.com/ru/gpus/nvidia-h100), когда всё помещается в 80 ГБ на GPU с запасом: дообучение (fine-tuning) с LoRA, инференс моделей примерно до 30B параметров и задачи обучения, которые при шардировании уже свободно распределены по GPU. Вы получаете ту же вычислительную мощность за 2 190 $ в месяц вместо 3 090 $.

Выбирайте [H200](https://fullgpu.com/ru/gpus/nvidia-h200), когда ограничением становится память: модели класса 70B под реальным трафиком, длинные промпты, RAG (генерация, дополненная поиском) с большими контекстами или много одновременных пользователей. Здесь дополнительные 61 ГБ решают, будет ли задача работать на одном GPU или ей понадобится несколько.

## Что помещается на один GPU

Веса занимают примерно 2 байта на параметр в BF16, 1 байт в FP8 и полбайта в 4-битных форматах. Сверху добавляются KV-кэш, который растёт вместе с длиной контекста и числом одновременных запросов, и запас 10–30% на активации и накладные расходы среды выполнения. Свободная память в таблице ниже — простая разность, без учёта KV-кэша и накладных расходов:

| Модель и точность | Веса (примерно) | H100, 80 ГБ | H200, 141 ГБ |
| --- | --- | --- | --- |
| 8B в BF16 | 16 ГБ | Да, свободно около 64 ГБ | Да, свободно около 125 ГБ |
| 32B в BF16 | 64 ГБ | Впритык, свободно около 16 ГБ | Да, свободно около 77 ГБ |
| 70B в FP8 | 70 ГБ | Впритык, свободно около 10 ГБ | Да, свободно около 71 ГБ |
| 100B в FP8 | 100 ГБ | Нет | Да, свободно около 41 ГБ |
| 70B в BF16 | 140 ГБ | Нет | На практике нет: веса занимают всю карту |

На 8-GPU-серверах в сумме 640 ГБ против 1 128 ГБ. Модель 405B в FP8, около 405 ГБ весов, помещается на оба, но под KV-кэш и накладные расходы на сервере с H100 остаётся около 235 ГБ, а на сервере с H200 — около 723 ГБ. В BF16, около 810 ГБ, она помещается только на сервер с H200. [Калькулятор видеопамяти (VRAM)](https://fullgpu.com/ru/tools/vram-calculator) выполнит тот же расчёт для вашей конкретной модели, точности и длины контекста.

## Длинные контексты и KV-кэш

Веса — лишь часть расхода памяти. Во время инференса каждый токен каждого активного диалога хранит свои ключи и значения в видеопамяти. Возьмём распространённую архитектуру моделей 70B с механизмом grouped-query attention (80 слоёв, 8 KV-голов размерностью 128): KV-кэшу нужно около 0,33 МБ на токен в BF16 или около 0,16 МБ в FP8.

- **На одном H100** с моделью в FP8 после учёта накладных расходов под KV-кэш остаётся не больше примерно 5 ГБ: около 30 000 токенов в FP8 на все одновременные запросы.
- **На одном H200** остаётся примерно 55–60 ГБ: больше 300 000 токенов в FP8.

Одному контексту длиной 128K токенов нужно около 21 ГБ KV-кэша в FP8: на H200 он помещается рядом с весами в FP8, а на H100 — нет. Когда кэш заполнен, движки инференса ставят запросы в очередь или прибегают к вытеснению (preemption), поэтому число одновременно обслуживаемых запросов падает, хотя у GPU ещё остаётся свободная вычислительная мощность. При инференсе моделей класса 70B обычно именно это и решает выбор.

## Пропускная способность памяти и генерация токенов

Чтобы сгенерировать каждый новый токен, нужно считать из памяти веса модели и KV-кэш каждого запроса. Поэтому при малых и средних размерах батча декодирование (decode) упирается в память: тензорные ядра ждут HBM. H200 передаёт 4,8 ТБ/с против 3,35 ТБ/с у H100 — на 43% больше байт в секунду при той же вычислительной мощности, — поэтому он выигрывает больше всего именно там, где H100 ждёт память.

Prefill — обработка промпта — упирается в основном в вычислительную мощность, и здесь оба GPU близки. Задачи, в которых преобладают длинные промпты и короткие ответы, например классификация или извлечение данных, выигрывают от H200 меньше, чем чат-боты, агенты или генерация кода с длинными ответами.

## Обучение, дообучение и 8-GPU-серверы

В обучении разрыв ещё меньше: те же тензорные ядра, тот же NVLink 4 со скоростью 900 ГБ/с на каждый GPU и, в нашем каталоге, та же хост-система. Оба сервера HGX оснащены двумя процессорами Xeon 8480+ (112 ядер), 2 ТБ DDR5, восемью NVMe-накопителями по 3,84 ТБ и восемью адаптерами ConnectX-7 400G. Если задача обучения уже помещается на 8× H100 при разумном размере батча, сервер с H100 сделает ту же работу на 7 000 $ в месяц дешевле.

С дообучением та же логика. QLoRA для модели 70B загружает веса в 4 битах — около 35 ГБ, — поэтому работает на одном H100 с запасом под активации. LoRA для той же модели в BF16 держит в памяти около 140 ГБ замороженных весов, а они не помещаются на один GPU ни того, ни другого типа; для такой задачи закладывайте 8-GPU-сервер.

При масштабировании память всё равно важна. Полному дообучению с Adam нужно примерно 16–20 байт на параметр без учёта активаций, поэтому модели 30B требуется около 480–600 ГБ: на 8× H100 (640 ГБ) это помещается, но для активаций почти ничего не остаётся, а на 8× H200 (1 128 ГБ) — свободно. Для инференса сервер 8× H200 вмещает на одной машине MoE-модель (mixture of experts) на 671B параметров в FP8 — около 671 ГБ весов; 640 ГБ памяти H100 для этого недостаточно. О моделях такого класса — в нашем руководстве [по системным требованиям DeepSeek](https://fullgpu.com/ru/blog/deepseek-hardware-requirements); оба сервера представлены в разделе [8-GPU-серверы](https://fullgpu.com/ru/products/8-gpu-servers).

## Цена в месяц и выгода

Один H200 стоит 3 090 $ в месяц против 2 190 $ за H100: на 900 $, или на 41%, больше. На 8-GPU-серверах — 23 900 $ против 16 900 $, тоже на 41% больше. Что даёт доплата:

- **Память:** Объём на 76% больше, поэтому гигабайт у H200 дешевле: около 21,91 $ против 27,38 $ в месяц.
- **Пропускная способность:** На 43% выше, примерно соразмерно цене: около 644 $ против 654 $ в месяц за 1 ТБ/с.
- **Вычислительная мощность:** Никакой прибавки, поэтому для задач, упирающихся в вычислительную мощность, H100 даёт больше заявленных производителем FLOPS на доллар.

Пример расчёта: 30 одновременных диалогов по 8K токенов с моделью 70B в FP8 требуют около 40 ГБ KV-кэша. Один H100 вмещает три-четыре таких диалога одновременно, один H200 — все 30, и ещё остаётся запас. Разделить модель между двумя серверами с одним H100 на практике не получится: у отдельных серверов нет общего NVLink, поэтому следующий шаг на H100 — целый 8-GPU-сервер за 16 900 $. Для такой нагрузки H200 за 3 090 $ — явно более дешёвый вариант.

## Как выбрать

1. Оцените веса: число параметров × число байт на параметр в той точности, в которой будете запускать модель.
2. Добавьте KV-кэш для самого длинного контекста, умноженный на целевое число одновременных запросов.
3. Добавьте запас 10–30%. Если получилось меньше примерно 70 ГБ, начните с H100; от 70 до 125 ГБ — берите H200; если больше, смотрите наше [сравнение H200 и B200](https://fullgpu.com/ru/compare/h200-vs-b200).

Оба GPU работают с одними и теми же сборками CUDA, поэтому переход между ними не требует изменений в коде, а в наших образах Ubuntu уже установлены драйверы NVIDIA, CUDA, Docker и NVIDIA Container Toolkit. Оба есть в наличии — и как отдельные GPU, и в составе 8-GPU-серверов, — и в каждом заказе гарантированная дата выдачи показывается до оплаты. О том, как рассчитать ресурсы для развёртывания в продакшене, — на странице об [инференсе на выделенных GPU](https://fullgpu.com/ru/solutions/inference).

## Часто задаваемые вопросы

### Быстрее ли H200, чем H100?

Для задач, упирающихся в вычислительную мощность, таких как обучение и обработка промптов, NVIDIA указывает для обоих одинаковые показатели в FP8 и BF16, так что результаты будут сопоставимыми. При инференсе, упирающемся в память, пропускная способность 4,8 ТБ/с и больший KV-кэш позволяют H200 обслуживать больше запросов одновременно.

### Можно ли запустить модель 70B на одном H100?

В FP8 веса занимают около 70 ГБ, поэтому модель помещается на один H100 с 80 ГБ, но под KV-кэш остаётся лишь несколько гигабайт. Этого хватает для коротких промптов и нескольких пользователей; для длинных контекстов или реального трафика практичнее один H200.

### Насколько H200 дороже в месяц?

3 090 $ против 2 190 $ за один GPU и 23 900 $ против 16 900 $ за 8-GPU-сервер HGX — в обоих случаях примерно на 41% больше. В пересчёте на гигабайт видеопамяти из двух GPU дешевле H200.

### Нужно ли для H200 другое ПО?

Нет. Оба — GPU поколения Hopper с одинаковой compute capability в CUDA, поэтому на любом из них работают одни и те же контейнеры, драйверы и движки инференса.

### Используются ли GPU совместно с другими клиентами?

Нет. Каждый GPU, который мы сдаём в аренду, — это целый физический GPU, выделенный одному клиенту, без деления на vGPU, MIG-разделов и разделения по времени. Тариф с одним GPU — это выделенная ВМ с пробросом всего GPU (passthrough), а 8-GPU-серверы — bare-metal-серверы.

## Связанные страницы

- [Аренда серверов NVIDIA H100 SXM от 2 190 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-h100): Аренда выделенного NVIDIA H100 SXM за 2 190 $/мес. (≈ 3,00 $ за GPU-час 24/7) или 8-GPU HGX H100 за 16 900 $. Фиксированная цена, гарантированная дата выдачи.
- [Аренда серверов NVIDIA H200 и HGX H200 от 3 090 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-h200): Аренда выделенного NVIDIA H200 (141 ГБ) за 3 090 $/мес. (≈ 4,23 $ за GPU-час 24/7) или 8-GPU HGX H200 за 23 900 $. Фиксированная цена, оплата криптовалютой.
- [H200 vs B200: Hopper или Blackwell для вашего следующего GPU-сервера?](https://fullgpu.com/ru/compare/h200-vs-b200): Сравнение H200 и B200: 141 против 180 ГБ, 4,8 против 8 ТБ/с, FP4 и NVLink 5. Что помещается, за что вы доплачиваете 1 500 $/мес. и когда выгоднее H200.
- [H100 vs B200: стоит ли всё ещё арендовать H100 в 2026 году?](https://fullgpu.com/ru/compare/h100-vs-b200): H100 vs B200: 80 против 180 ГБ, 3,35 против 8 ТБ/с, FP4 и NVLink 5 по цене 2 190 $ против 4 590 $/мес. Стоимость задачи и когда H100 — всё ещё разумный выбор.
- [Калькулятор видеопамяти для LLM: поместится ли ваша модель на GPU?](https://fullgpu.com/ru/tools/vram-calculator): Бесплатный калькулятор видеопамяти для LLM: выберите Llama, Qwen, Mistral или gpt-oss, точность и длину контекста и посмотрите веса, KV-кэш и подходящие GPU.
- [GPU-серверы для инференса LLM: круглосуточно и по фиксированной цене](https://fullgpu.com/ru/solutions/inference): GPU-серверы для инференса LLM с vLLM, SGLang или TensorRT-LLM: расчёт KV-кэша, FP8 и FP4, 20–50 ТБ трафика включено. Посмотрите расчёты.