Аренда GB300 NVL72 от 7 990 $ за GPU-месяц

Аренда GB300 NVL72 даёт вам 72 GPU NVIDIA Blackwell Ultra и 36 процессоров Grace в одной стойке с жидкостным охлаждением, и все они находятся в одном домене NVLink. Мы сдаём эту систему в аренду на срок от 12 до 36 месяцев по цене от 7 990 $ за GPU в месяц. На этой странице мы объясняем, что это за система, кому она действительно нужна и когда выгоднее взять несколько серверов HGX B300.

Что такое GB300 NVL72

GB300 NVL72 — стоечная система (rack-scale) NVIDIA на архитектуре Blackwell Ultra. Вместо восьми GPU на сервер она объединяет 72 GPU через коммутаторы NVLink в один домен с суммарной пропускной способностью NVLink 130 ТБ/с по данным NVIDIA. NVIDIA указывает 20 ТБ HBM3e на стойку — около 277 ГБ на GPU (до 288 ГБ на модуле B300) — с пропускной способностью 8 ТБ/с на каждый GPU. Каждый из 36 процессоров Grace работает в паре с двумя GPU, а все вместе процессоры добавляют 17 ТБ LPDDR5X.

Для GB300 NVL72 NVIDIA указывает на каждый GPU 15 PFLOPS в FP4, 5 PFLOPS в FP8 и 2,5 PFLOPS в BF16 без разреженности — немного больше, чем её же показатели для B300 в сервере HGX (13,5; 4,5 и 2,25 PFLOPS). Стойка с жидкостным охлаждением размещена у нас, так что вы получаете мощности, не строя под них собственную площадку.

Кому нужна стойка, а не серверы HGX B300

Те же 72 GPU можно получить и в виде девяти серверов HGX B300. GPU относятся к одному семейству Blackwell Ultra, и объём памяти на GPU сопоставим; разница в том, как они обмениваются данными друг с другом.

Разрыв в пропускной способности

Внутри сервера HGX B300 у каждого GPU есть 1,8 ТБ/с пропускной способности NVLink, но только до семи остальных GPU. Между серверами трафик идёт через сеть: восемь адаптеров 800G на сервер, то есть 800 Гбит/с (100 ГБ/с) на GPU. В GB300 NVL72 каждый GPU сохраняет свои 1,8 ТБ/с по NVLink до каждого из остальных 71 GPU — примерно в 18 раз больше, чем проходит через сеть в расчёте на один GPU в серверах HGX.

Задачи, которым это нужно

• Широкий параллелизм экспертов: большие MoE-модели (mixture of experts), эксперты которых распределены по десяткам GPU, на каждом MoE-слое обмениваются токенами по схеме all-to-all. В домене NVLink на 72 GPU этот трафик вообще не выходит в сеть.
• Обучение фронтирного масштаба: полное обучение с Adam требует примерно 16–20 байт на параметр без учёта активаций, поэтому модели с триллионом параметров нужно около 16–20 ТБ — практически вся HBM3e стойки. На серверах HGX B300 то же состояние заняло бы от семи до девяти серверов, связанных через сеть.
• Тензорный или конвейерный параллелизм больше чем на восемь GPU, когда на каждом шаге синхронизируется больше GPU, чем помещается в одном сервере HGX.

Когда серверы HGX B300 — лучший выбор

Если каждая задача помещается на восемь GPU, домен NVLink стойки остаётся незадействованным. Это относится к большей части задач дообучения (fine-tuning) и к инференсу моделей размером до нескольких сотен миллиардов параметров: модель 671B в FP8 помещается на один сервер HGX B300. Обучение с параллелизмом по данным, при котором каждая реплика помещается в один сервер и через сеть передаются только градиенты, гораздо менее чувствительно к этому разрыву. В таких случаях серверы HGX B300 дешевле в пересчёте на GPU (4 987,50 $ за GPU в месяц при цене 39 900 $ за сервер), арендуются от одного месяца и добавляются по одному — при наличии.

Расчёт памяти в масштабе стойки

Для инференса один только объём памяти редко бывает причиной выбрать стойку. Модели с триллионом параметров в FP8 нужно около 1 ТБ под веса, и это уже помещается на один сервер HGX B300 с 2,3 ТБ. Стойка же даёт место, чтобы запускать инференс таких моделей с очень большим KV-кэшем и большим числом одновременных запросов, и пропускную способность, чтобы распределять их по многим GPU. При примерно 20 ТБ HBM3e модель 1T в FP8 оставляет около 19 ТБ под KV-кэш и активации — или можно запустить несколько больших моделей рядом в одном домене. А 17 ТБ LPDDR5X, подключённые к процессорам Grace, дают дополнительное место для данных, которые вы выгружаете из GPU.

Программное обеспечение и эксплуатация

Процессоры Grace построены на архитектуре Arm, поэтому вашим контейнерным образам и скомпилированным зависимостям нужны сборки для arm64. NVIDIA выпускает сборки своего основного ПО для arm64, но собственные образы и wheel-пакеты Python стоит проверить заранее. Обмен данными между GPU идёт через NCCL, как и на серверах HGX, с той разницей, что коллективные операции на всех 72 GPU остаются в NVLink. Базовый программный стек, способ доступа и сетевые настройки вашей стойки входят в конфигурацию, которую мы письменно подтверждаем до оплаты. Об обмене данными — в нашей документации по NCCL для нескольких GPU.

Цены и условия аренды GB300 NVL72

• Цена От 7 990 $ за GPU в месяц, около 575 000 $ в месяц за 72 GPU
• Срок От 12 до 36 месяцев
• Эквивалент за GPU-час Примерно от 10,95 $ — цена за GPU в месяц, делённая на 730 часов
• Наличие По заявке на бронирование со страницы развёртывания; сроки выдачи подтверждаются до оплаты

По сравнению с серверами HGX B300 по 4 987,50 $ за GPU в месяц стойка стоит примерно на 60% дороже в пересчёте на GPU. За эту надбавку вы получаете домен NVLink на 72 GPU, процессоры Grace с их памятью и стойку с жидкостным охлаждением. Девять серверов HGX B300 обошлись бы в 359 100 $ в месяц без учёта специальных цен на несколько серверов, так что стойка оправдана, только если ваша задача использует этот домен. В таком масштабе сравнивать обычно приходится с другими контрактами на зарезервированные мощности, а не с почасовой оплатой: в 2026 году многие провайдеры предпочитают годовые контракты на крупные объёмы, а мощности по требованию (on-demand) часто распроданы. В подтверждении бронирования указывается точная цена с учётом вашего срока, конфигурации и даты начала.

Как арендовать мощности GB300 NVL72

1. Вы отправляете заявку на бронирование со страницы развёртывания (в той же форме можно создать бесплатный аккаунт или войти в свой) и указываете в примечаниях: что планируете запускать, сколько GPU вам нужно, срок и желаемую дату начала.
2. Мы подтверждаем конфигурацию, цену, срок аренды, местоположение и сроки выдачи в личном кабинете и по электронной почте. До вашего согласия ничего не списывается.
3. Для заказа такого масштаба может потребоваться проверка; в нашем руководстве по проверке объясняется, что мы можем запросить и зачем.
4. Вы принимаете подтверждённую цену и оплачиваете с баланса аккаунта, пополненного криптовалютой (оплата картой скоро появится), а данные для доступа появляются в личном кабинете в подтверждённые сроки выдачи.

Если мы не уложимся в подтверждённые сроки выдачи, вы можете отменить заказ с полным возвратом средств на баланс. Если ваши сроки позволяют, на Vera Rubin NVL72 открыт предзаказ; если мощности нужны уже сейчас, выбирайте между GB300 NVL72 и HGX B300. Подробнее о наших стоечных системах.