H100 vs B200: стоит ли всё ещё арендовать H100 в 2026 году?

В сравнении H100 и B200 между GPU лежит целое поколение. У B200 180 ГБ HBM3e против 80 ГБ HBM3 у H100, пропускная способность 8 ТБ/с против 3,35 ТБ/с, производительность в FP8 и BF16 без разреженности примерно в 2,3 раза выше заявленной NVIDIA для H100, нативный FP4 и NVLink 5. И стоит он 4 590 $ в месяц против 2 190 $. В 2026 году настоящий вопрос не в том, какой GPU лучше, а в том, может ли ваша работа использовать то, что добавляет B200.

H100 или B200: краткий ответ

Выбирайте B200, когда узким местом становится H100: модели больше 80 ГБ, длинные контексты, инференс с большим числом одновременных запросов или обучение, где за более быстрое завершение стоит заплатить. Выбирайте H100, когда ваша работа помещается в 80 ГБ и одного GPU хватает. B200, который наполовину простаивает, обходится дороже полностью загруженного H100.

Скачок между поколениями в цифрах

Соотношения по памяти, пропускной способности и вычислительной мощности чуть выше соотношения цен, поэтому на каждый доллар B200 даёт немного больше каждого из этих ресурсов, плюс FP4. Но это преимущество есть, только если вы им пользуетесь. Если вашей задаче нужно 40 ГБ, а пиковый трафик умеренный, дополнительные ресурсы простаивают, и H100 — более дешёвый способ выполнить работу.

Память: что помещается на один GPU

Если считать, что веса занимают примерно 2 байта на параметр в BF16, 1 байт в FP8 и 0,5 байта в FP4, и добавить запас 10–30% на накладные расходы среды выполнения:

• Примерно до 30B параметров в BF16: H100 справляется, и остаётся место для KV-кэша.
• 70B в FP8, около 70 ГБ: помещается на H100, но под KV-кэш остаётся всего несколько гигабайт, а значит, только короткие промпты и мало пользователей. Один B200 оставляет под KV-кэш около 110 ГБ.
• 70B в BF16, около 140 ГБ: один B200, и около 40 ГБ остаются в запасе. На H100 понадобится несколько GPU, а в нашем каталоге это означает 8-GPU-сервер.
• Очень большие модели: 8× H100 дают 640 ГБ, 8× B200 — 1 440 ГБ. MoE-модель (mixture of experts) размером 671B в FP8 помещается на сервер с B200, но не на сервер с H100.
• Полное дообучение (fine-tuning): с Adam — примерно 16–20 байт на параметр без учёта активаций. Модель 30B, около 480–600 ГБ, помещается на 8× H100 впритык; модель 70B, около 1,1–1,4 ТБ, для 8× H100 недостижима, а для 8× B200 находится на пределе.

Если вам нужно больше 80 ГБ, но не нужна вычислительная мощность Blackwell, промежуточный вариант — H200 со 141 ГБ; подробнее — в нашем сравнении H100 и H200.

FP4 и NVLink 5: чего нет у H100

H100 принёс тензорные ядра FP8 и Transformer Engine от NVIDIA. B200 сохраняет FP8 и добавляет FP4: он ещё раз вдвое сокращает память под веса и, по данным NVIDIA, вдвое повышает пиковую производительность без разреженности по сравнению с FP8 на том же GPU. Веса модели 70B в FP4 занимают около 35 ГБ. FP4 требует аккуратного квантования и проверки качества на собственных наборах данных для оценки; форматы разобраны в нашем руководстве по FP8 и FP4. На H100 всё же можно загрузить 4-битные веса с квантованием только весов, чтобы сэкономить память, но вычисления будут выполняться в более высокой точности.

Для работы на нескольких GPU NVLink 5 вдвое увеличивает пропускную способность каналов на каждый GPU — до 1,8 ТБ/с. При инференсе и обучении с тензорным параллелизмом GPU обмениваются данными на каждом слое, поэтому на сервере с B200 каждый такой обмен занимает меньше времени. Для связи между серверами оба наших 8-GPU-сервера используют восемь адаптеров ConnectX-7 400G.

Стоит ли всё ещё выбирать H100 в 2026 году?

Да, для значительной части реальных задач. H100 поддерживает FP8, на нём работают все основные фреймворки и движки инференса, а его 80 ГБ хватает для большинства моделей примерно до 30B параметров в BF16. Согласно проведённому FullGPU в октябре 2026 года исследованию публичных прайс-листов, медианная цена GPU-часа по требованию (on-demand) за последний год выросла примерно на 13% для H100 и на 20% для B200: спрос на Hopper никуда не делся. Случаи, когда важна стоимость и H100 остаётся правильным выбором:

• Дообучение с LoRA и QLoRA, в том числе моделей 70B в 4-битном формате, когда потребность в памяти остаётся умеренной. Подробнее — на странице о дообучении на выделенных GPU.
• Инференс небольших и средних моделей при стабильном трафике, с которым справляется один H100.
• Разработка, оценка и CI, когда B200 простаивал бы между запусками.
• Исследования с фиксированным бюджетом, когда ограничением служит итоговая сумма в месяц.

С точки зрения ПО H100 тоже проще. Hopper уже много лет поддерживается в CUDA, PyTorch и основных движках инференса, а для Blackwell нужны CUDA 12.8 или новее и сборки фреймворков, скомпилированные под эту архитектуру. Актуальные релизы поддерживают оба поколения, но старый контейнер с зафиксированными версиями, возможно, придётся пересобрать, прежде чем он заработает на B200.

Цена в месяц и стоимость одной задачи

Разница в месяц — 2 400 $ на GPU и 18 000 $ на 8-GPU-сервер. В пересчёте на GPU-час при полном месяце в 730 часов это 6,29 $ против 3,00 $ для отдельных GPU и 5,98 $ против 2,89 $ на 8-GPU-серверах.

Для инференса вопрос часто в том, сколько GPU нужно модели. Модели 70B в FP8, которая обслуживает 30 одновременных диалогов по 8K токенов, помимо примерно 70 ГБ весов нужно около 40 ГБ KV-кэша в FP8 — если исходить из распространённой архитектуры моделей 70B с механизмом grouped-query attention. Это далеко за пределами возможностей одного H100, а на одном B200 за 4 590 $ помещается свободно. На H100 пришлось бы брать 8-GPU-сервер за 16 900 $; H200 за 3 090 $ обойдётся дешевле, если вычислительной мощности Hopper хватает для вашего трафика.

Для обучения сравнивайте стоимость одного запуска, а не стоимость месяца. Допустим, задача держит сервер 8× H100 загруженным целый месяц. Если бы она идеально масштабировалась в соответствии с соотношением вычислительной мощности без разреженности по данным NVIDIA, около 2,3, сервер 8× B200 справился бы с ней примерно за 13 дней, а при постоянной очереди таких задач один запуск обходился бы примерно в 15 300 $ на B200 против 16 900 $ на H100. Реальные задачи масштабируются не идеально: при соотношении 2 стоимость запуска составит 17 450 $ — чуть больше, чем на H100. Точка безубыточности — соотношение цен, около 2,07 для 8-GPU-серверов. Если на вашей задаче сервер с B200 выполняет работу более чем в 2,07 раза быстрее сервера с H100, он выгоднее; если его преимущество меньше или у вас всего один запуск, выигрывает H100. Чашу весов может склонить память: если 180 ГБ на GPU позволяют отказаться от тензорного параллелизма или выгрузки, выигрыш B200 может превысить соотношение вычислительной мощности.

Калькулятор стоимости GPU посчитает эти цифры для вашего случая.