Аренда серверов NVIDIA B300 и HGX B300 от 5 190 $ в месяц

Арендовать мощности NVIDIA B300 без годового контракта у нас можно в двух вариантах: один B300 в выделенной виртуальной машине за 5 190 $ в месяц или bare-metal-сервер NVIDIA HGX B300 с восемью GPU за 39 900 $ в месяц. В обоих случаях каждый GPU — целый физический GPU, выделенный только вам, с помесячной оплатой вперёд и минимальным сроком в один месяц. B300 мало в наличии; что доступно прямо сейчас, показывает карточка конфигураций на этой странице.

Что такое B300 и что изменилось по сравнению с B200

B300 — GPU NVIDIA на архитектуре Blackwell Ultra, обновлённая версия Blackwell B200. Главное изменение — память: 288 ГБ HBM3e на GPU против 180 ГБ, доступных на B200, то есть на 60% больше при сопоставимой пропускной способности около 8 ТБ/с. На плате HGX B300 таких GPU восемь — примерно 2,3 ТБ HBM3e в одном сервере.

Второе изменение — FP4. NVIDIA указывает 13,5 PFLOPS в FP4 без разреженности на один B300 против 9 PFLOPS у B200, а опубликованные ею показатели без разреженности в FP8 (4,5 PFLOPS) и BF16 (2,25 PFLOPS) у обоих GPU одинаковы. GPU по-прежнему соединяются через NVLink пятого поколения со скоростью 1,8 ТБ/с на каждый GPU. Короче говоря, B300 оправдывает себя, когда дополнительная память позволяет обойтись меньшим числом GPU или когда вы запускаете инференс или обучение в FP4. Если ни то ни другое к вам не относится, B200 даёт те же заявленные производителем показатели в FP8 и BF16 и стоит меньше в месяц. Подробности — в нашем сравнении B200 и B300, а наше руководство по FP8 и FP4 объясняет, когда пониженная точность безопасна для вашей модели.

Задачи для B300 и расчёт памяти

Обычно всё решает память, поэтому начните с арифметики. Веса занимают примерно число параметров × число байт на параметр (2 для BF16, 1 для FP8, 0,5 для FP4). Добавьте KV-кэш, который растёт вместе с длиной контекста и числом одновременных запросов, и оставьте запас 10–30% на активации и накладные расходы среды выполнения.

Инференс

• Модель 70B в BF16: около 140 ГБ весов. Даже с учётом запаса у одного B300 остаётся примерно 100 ГБ или больше под KV-кэш, так что инференс в BF16 возможен и с длинными контекстами. На одном H200 со 141 ГБ та же модель не помещается с полезным запасом.
• Модель 70B в FP8: около 70 ГБ — большая часть памяти GPU остаётся под KV-кэш и большое число одновременных запросов.
• MoE-модель (mixture of experts) размером 671B, например DeepSeek-V3, в FP8: около 671 ГБ весов. Только под веса нужно минимум три B300, а на одном сервере HGX B300 она помещается, и под KV-кэш остаётся намного больше 1 ТБ. Восемь GPU по 80 ГБ не вместили бы даже веса. Другие форматы точности разобраны в нашем руководстве по требованиям DeepSeek к оборудованию.

Дообучение (fine-tuning) и обучение

Полное дообучение с оптимизатором Adam требует примерно 16–20 байт на параметр без учёта активаций. Для модели 70B это около 1,1–1,4 ТБ: такой объём помещается в 2,3 ТБ одного сервера HGX B300, если шардировать состояние по всем восьми GPU с помощью FSDP или DeepSpeed ZeRO-3, и для активаций остаётся примерно 0,9–1,2 ТБ. На одном B300 работает LoRA для модели 70B в BF16: около 140 ГБ замороженных весов плюс небольшие адаптеры и активации — это намного меньше 288 ГБ.

При предобучении главное — неделями держать GPU загруженными. На сервере с помесячной арендой ваши данные, чекпоинты и окружение хранятся на локальных NVMe (восемь накопителей по 3,84 ТБ, около 30 ТБ) всё время обучения, и задачу никто не вытеснит. Чтобы посчитать то же самое для другой модели, воспользуйтесь нашим калькулятором видеопамяти (VRAM).

Один B300 или 8-GPU-сервер HGX B300?

Выбирайте один B300, когда модель помещается в 288 ГБ и вы масштабируетесь, добавляя независимые копии: реплики для инференса, запуски дообучения с LoRA, задачи оценки моделей. Тариф включает 28 vCPU, 384 ГБ оперативной памяти, 3,5 ТБ NVMe и порт 25 Гбит/с.

Выбирайте сервер HGX B300, когда одна задача должна охватывать несколько GPU. Восемь GPU находятся в одном домене NVLink (1,8 ТБ/с на каждый GPU) — именно это нужно для тензорного параллелизма и обучения с шардированием; если же разделить ту же модель между машинами, каждый слой будет ждать гораздо более медленных сетевых каналов. Кроме того, в сервере есть два процессора Xeon 6776P (всего 128 ядер), 4 ТБ DDR5 для загрузки данных и выгрузки на CPU и восемь адаптеров ConnectX-8 800G для многоузловых задач.

Когда нужно восемь GPU, стоимость говорит о том же: восемь тарифов с одним B300 обошлись бы в 41 520 $ в месяц против 39 900 $ за один сервер HGX B300. До семи тарифов с одним GPU обходятся дешевле сервера, но это отдельные машины без NVLink между ними. Если одного узла мало, стоечная система (rack-scale) GB300 NVL72 объединяет 72 GPU Blackwell Ultra в одном домене NVLink.

Программное обеспечение на сервере с B300

Вы получаете root-доступ по SSH с вашим ключом; на сервере стоит Ubuntu 22.04 или 24.04 с предустановленными драйверами NVIDIA, CUDA, Docker и NVIDIA Container Toolkit. Debian или Rocky Linux доступны по запросу. Чаще всего для обучения выбирают PyTorch, а для инференса — vLLM, SGLang или TensorRT-LLM и запускают их, как правило, в контейнерах, так что окружение, которым вы уже пользуетесь в другом месте, переносится в виде образа. Первая сессия на HGX B300 может выглядеть так:

nvidia-smi              # eight GPUs, driver and CUDA versions
nvidia-smi topo -m      # how the GPUs are connected (NVLink)
docker run --gpus all --ipc=host -p 127.0.0.1:8000:8000 \
  vllm/vllm-openai:latest \
  --model <your-model> --tensor-parallel-size 8

Если привязать эндпоинт инференса к localhost и обращаться к нему через SSH-туннель, он останется недоступен из публичного интернета, пока вы не добавите собственную аутентификацию. Прежде чем рассчитывать развёртывание под FP4, убедитесь, что ваша версия фреймворка и чекпоинт модели поддерживают этот формат на Blackwell Ultra. Об обучении на всех восьми GPU — в руководстве по обучению на нескольких GPU с NCCL.

Цена NVIDIA B300 в месяц и за GPU-час

• HGX B300, 8 GPU 39 900 $ в месяц, около 6,83 $ за GPU-час
• Один B300 5 190 $ в месяц, около 7,11 $ за GPU-час

Цена за GPU-час — это цена в месяц, делённая на число GPU и на 730 часов, то есть она предполагает, что GPU работает круглосуточно. Чтобы сравнить с почасовой оплатой, разделите нашу цену в месяц на почасовую ставку, которую вы платили бы в другом месте: получится число часов в месяц, начиная с которого фиксированная цена обходится дешевле. Например, если B300 с почасовой оплатой стоит вам в 1,5 раза больше нашей эквивалентной ставки, тариф с одним GPU становится выгоднее примерно после 487 часов — двух третей месяца. Для эксперимента на два дня выгоднее почасовая оплата; для сервера, на котором большую часть месяца идёт обучение или инференс, — помесячная. Больше примеров — в нашем сравнении помесячной и почасовой оплаты.

Цена включает сам сервер и 50 ТБ исходящего трафика в месяц на 8-GPU-сервере (20 ТБ на сервере с одним GPU), и в пределах этого объёма плата за исходящий трафик не взимается. Также включены публичный IPv4-адрес и подсеть IPv6 /64, защита от DDoS, круглосуточная поддержка инженеров и SLA (соглашение об уровне обслуживания) с месячной доступностью 99,9% и компенсацией на баланс (service credits). Платы за подключение нет. Цены указаны в долларах США без учёта НДС и других налогов, если они применяются. Когда у вас появится активный сервер, вы сможете запросить через тикет специальные цены на срок 6–12 месяцев или на несколько серверов.

Как проходит заказ

1. На странице развёртывания вы выбираете нужную конфигурацию, указываете образ ОС и свой SSH-ключ и создаёте бесплатный аккаунт или входите в свой — всё в одной форме.
2. Гарантированная дата выдачи показывается до оплаты: она отсчитывается в рабочих днях с момента оплаты и зависит от наличия.
3. Вы оплачиваете первый месяц с предоплаченного баланса, который пополняете криптовалютой (BTC, ETH, XMR, USDT в сети TRON или SOL) на сумму от 100 $ до 10 000 $ за одно пополнение; за каждые полные 100 $ начисляется +5% бонусных средств, вплоть до +50% при пополнении от 1 000 $. Если на балансе не хватает средств, вы пополняете его в той же форме: заказ сохраняется за вами 72 часа и оплачивается автоматически, как только пополнение будет зачислено. Оплата картой скоро появится.
4. Мы выдаём root-доступ по SSH не позднее этой даты, а IP-адрес и данные для подключения по SSH появляются в личном кабинете.

Если мы не уложимся в дату выдачи, вы можете отменить заказ с полным возвратом средств на баланс. Продление оплачивается с баланса автоматически каждый месяц, и на каждый платёж выставляется счёт. Для большинства заказов достаточно аккаунта и пополненного баланса; для крупных заказов, например нескольких 8-GPU-серверов, сначала может потребоваться проверка. Чтобы подобрать конфигурацию до заказа, воспользуйтесь калькулятором видеопамяти и руководствами, ссылки на которые есть на этой странице.