NVIDIA · Blackwell
Аренда серверов NVIDIA B200 и HGX B200 от 4 590 $ в месяц
- Видеопамять
- 180 ГБ HBM3e
- Пропускная способность
- 8 ТБ/с на GPU
- Интерконнект
- NVLink 5
- Форматы тензорных ядер
- FP4 · FP8 · BF16
- Целый GPU без разделения
- Отмена в любом месяце
- SLA с доступностью 99,9%
- Оплата криптовалютой
Конфигурации и цены
-
1× B200 В наличии
Выделенная ВМ · проброс всего GPU
26 vCPU · ОЗУ 256 ГБ · 2,75 ТБ NVMe · 25 Гбит/с
4 590 $/мес.
≈ 6,29 $ за GPU-час -
8× HGX B200 В наличии
Bare-metal-сервер · NVLink 52× Xeon 8570 · 112 ядер · ОЗУ 2 ТБ DDR5 · 8× 3,84 ТБ NVMe · 8× 400G ConnectX-7 34 900 $/мес.
≈ 5,98 $ за GPU-час
Гарантированная дата выдачи известна до оплаты. Не уложимся в неё — полный возврат средств.
Характеристики
Характеристики B200 и конфигурации серверов
Сначала — опубликованные производителем характеристики GPU, затем — что именно вы получаете в каждом сервере, который мы сдаём в аренду. Всё это ещё раз показывается при оформлении заказа, до оплаты.
NVIDIA B200
- Архитектура
- BlackwellNVIDIA
- Видеопамять
- 180 ГБ HBM3e180 ГБ на GPU, как указано для HGX B200 (физически — 192 ГБ).
- Пропускная способность памяти
- 8 ТБ/с
- FP4
- 9 000 TFLOPS18 000 TFLOPS с разреженностью
- FP8
- 4 500 TFLOPS9 000 TFLOPS с разреженностью
- BF16 / FP16
- 2 250 TFLOPS4 500 TFLOPS с разреженностью
- Интерконнект GPU
- NVLink 5 · 1,8 ТБ/сна GPU
Форм-фактор - Модуль SXM · HGX B200
- Макс. энергопотребление
- 1 000 Втпо имеющимся данным
Конфигурации серверов
| Характеристика | 1× B200 | 8× HGX B200 |
|---|---|---|
| GPU | 1 × 180 ГБ HBM3e | 8 × 180 ГБ HBM3e |
| Тип сервера | Один GPU | |
| Процессор | 26 vCPU | 2× Xeon 8570 · 112 ядер |
| Память | 256 ГБ | 2 ТБ DDR5 |
| Накопители | 2,75 ТБ NVMe | 8× 3,84 ТБ NVMe |
| Сеть | 25 Гбит/с | |
| Трафик | 20 ТБ в месяц включено | 50 ТБ в месяц включено |
| Цена | 4 590 $/мес. | 34 900 $/мес. |
Root-доступ по SSH- Ubuntu с драйверами, CUDA и Docker
- IPv4 + IPv6 /64
- Защита от DDoS
Вычислительная мощность указана по спецификациям производителя без разреженности, а там, где это опубликовано, — и со структурированной разреженностью. Реальная производительность зависит от модели, точности и программного стека. 180 ГБ на GPU, как указано для HGX B200 (физически — 192 ГБ).
Применение
Для каких задач лучше всего подходит B200
Где этот GPU оправдывает свою цену в месяц, а когда разумнее выбрать другой.
-
Обучение и полное дообучение
1,44 ТБ HBM3e в одном домене NVLink 5 хватает для полного дообучения моделей класса 30B с запасом под активации.
-
Высокопроизводительный инференс
8 ТБ/с на GPU и 4,5 PFLOPS в FP8 без разреженности по данным NVIDIA — для инференса моделей 70B в FP8 или BF16.
-
Модели класса 405B в FP8
Около 405 ГБ весов помещаются на один сервер HGX B200, и под KV-кэш остаётся примерно 1 ТБ. -
Инференс в FP4
NVIDIA указывает 9 PFLOPS в FP4 без разреженности на один B200 — GPU поколения Hopper этот формат не поддерживают.
Рассмотрите вместо него
- NVIDIA B300 Когда нужно больше 180 ГБ на GPU или более высокий показатель в FP4, который NVIDIA указывает для Blackwell Ultra.
-
NVIDIA H200
Для инференса моделей до 70B в FP8 хватит одного H200 за 3 090 $ в месяц: он вмещает веса с запасом под KV-кэш. - AMD Instinct MI355X Если ваш стек работает на ROCm, сервер 8× MI355X даёт 288 ГБ на GPU за 19 900 $ в месяц.
Расчёт памяти
Какие модели помещаются на B200?
| Размер модели | BF16 2 байта/параметр | FP8 1 байт/параметр | 4 бита 0,5 байта/параметр |
|---|---|---|---|
| 8B Класс Llama 3.1 8B | 1 GPU | 1 GPU | 1 GPU |
| 14B Класс Qwen3 14B | 1 GPU | 1 GPU | 1 GPU |
| 32B Класс Qwen3 32B | 1 GPU | 1 GPU | 1 GPU |
| 70B Класс Llama 3.3 70B | 1 GPU | 1 GPU | 1 GPU |
| 120B |
2 GPU | 1 GPU | 1 GPU |
| 235B Класс Qwen3 235B MoE | 4 GPU | 2 GPU | 1 GPU |
| 405B Класс Llama 3.1 405B | 8 GPU | 4 GPU | 2 GPU |
| 671B |
8 GPUвпритык | 4 GPUвпритык | 2 GPUвпритык |
Как читать таблицу
- 1 GPUПомещается на один B200
- 2 GPUРаспределяется с помощью тензорного параллелизма в пределах одного сервера
- впритыкПомещается только с коротким контекстом
- —Не помещается в один сервер
На примере реальных моделей
Открыть калькулятор видеопамятиКоротко.
Что изменилось в B200 по сравнению с Hopper
- Память: 180 ГБ HBM3e на GPU вместо 141 ГБ и 8 ТБ/с вместо 4,8 ТБ/с — пропускная способность примерно в 1,7 раза выше.
- Вычислительная мощность: 4,5 PFLOPS в FP8 и 2,25 PFLOPS в BF16 без разреженности — примерно в 2,3 раза больше, чем 1 979 и 989 TFLOPS у Hopper.
- FP4: 9 PFLOPS без разреженности; Hopper не поддерживает этот формат аппаратно.
- NVLink 5: 1,8 ТБ/с на GPU — вдвое больше, чем 900 ГБ/с у NVLink 4.
Для расчётов важна одна деталь: физически в корпусе B200 размещено 192 ГБ HBM3e, но для систем HGX B200 указан объём 180 ГБ на GPU, поэтому планируйте исходя из 180 ГБ. Характеристики обоих GPU рядом — в нашем сравнении H200 и B200.
Задачи для B200 и расчёт памяти
Инференс моделей
- Модель 70B в BF16:
около 140 ГБ, так что на одном GPU под KV-кэш и накладные расходы остаётся примерно 40 ГБ. Этого достаточно при умеренной длине контекста и умеренном числе одновременных запросов; на H200 со 141 ГБ — уже нет. - Модель 70B в FP8:
около 70 ГБ, так что под KV-кэш остаётся примерно 110 ГБ свободной памяти — а значит, больше одновременных запросов или более длинные контексты на каждом GPU. - Модель класса 405B в FP8:
около 405 ГБ — больше, чем вмещают два B200, но на одном сервере HGX B200 (1,44 ТБ) она работает, и под KV-кэш остаётся примерно 1 ТБ. В BF16, при объёме около 810 ГБ, она тоже помещается.
Обучение и дообучение (fine-tuning )
Эти варианты сравниваются в нашем руководстве по дообучению модели 70B, а статья о том, сколько видеопамяти (VRAM) нужно большим языковым моделям
Один B200 или сервер HGX B200?
Тариф с одним B200 включает 26 vCPU, 256 ГБ оперативной памяти, 2,75 ТБ NVMe и порт 25 Гбит/с. Он подходит, когда на каждый GPU приходится одна модель: эндпоинт модели 70B в FP8, дообучение с LoRA, пайплайн оценки моделей. Для масштабирования вы добавляете новые тарифы с одним GPU.
Цена подчиняется той же логике. Восемь тарифов с одним B200 обошлись бы в 36 720 $ в месяц против 34 900 $ за HGX B200, так что при восьми GPU сервер дешевле и вдобавок даёт NVLink. Если нужно до семи GPU, отдельные тарифы с одним GPU обойдутся дешевле — при условии, что вашей задаче не нужна связь между ними.
Запуск PyTorch и vLLM на B200
nvidia-smi topo -m # NVLink between all eight GPUs
NCCL_DEBUG=INFO torchrun --nproc_per_node=8 train.py
Если задать NCCL_DEBUG=INFO, NCCL записывает в лог транспорты, которые настраивает, — это быстрый способ убедиться, что трафик идёт по NVLink. Подробнее — в нашей документации по PyTorch и vLLM и по настройке NCCL для нескольких GPU.
Цена NVIDIA B200 в месяц и за GPU-час
- HGX B200, 8 GPU
34 900 $ в месяц, около 5,98 $ за GPU-час - Один B200
4 590 $ в месяц, около 6,29 $ за GPU-час
От заказа до root-доступа
Разверните сервер с B200
B200 от 4 590 $ в месяц
В наличии · гарантированная дата выдачи видна до оплаты.
Сравнить все 15 конфигурацийВопросы и ответы
Аренда B200: вопросы и ответы
В двух словах. Подробности — в центре помощи, а клиенты с активным сервером получают ответы через тикеты круглосуточно.
Перейти в центр помощиСколько стоит аренда NVIDIA B200?
Есть ли B200 в наличии?
Да, на момент написания в наличии и один B200, и HGX B200, а актуальное наличие в реальном времени показывает карточка конфигураций на этой странице. Гарантированная дата выдачи показывается до оплаты.
Почему рассчитывать на 180 ГБ, если у B200 192 ГБ памяти?
Можно ли дообучить модель 70B на HGX B200?
LoRA и QLoRA помещаются без труда. Полному дообучению с Adam нужно примерно от 1,1 до 1,4 ТБ без учёта активаций — это на пределе 1,44 ТБ сервера, поэтому закладывайте выгрузку на CPU или берите HGX B300.
Нужен ли мне 8-GPU-сервер или хватит тарифов с одним B200?
Если каждая модель помещается в 180 ГБ, тарифы с одним GPU масштабируются добавлением копий. Если одна модель или задача обучения занимает несколько GPU, берите HGX B200 ради его домена NVLink; при восьми GPU он к тому же дешевле восьми тарифов с одним GPU.
Какими криптовалютами можно оплатить?
Получите сервер с B200 уже в этом месяце.
Выберите конфигурацию, создайте аккаунт в той же форме и оплатите первый месяц с баланса. Гарантированная дата выдачи показывается до оплаты, а если мы её пропустим, вы получите полный возврат средств.
- Гарантированная дата выдачи известна до оплаты
- Отмена в любом месяце
- Оплата криптовалютой, бонус до +50%