Стоечные GPU-системы: GB300 NVL72 и Vera Rubin NVL72

Стоечные GPU-системы (rack-scale) превращают целую стойку в один домен NVLink. NVIDIA GB300 NVL72 соединяет 72 GPU Blackwell Ultra и 36 процессоров Grace так, что трафик тензорного параллелизма, параллелизма экспертов и конвейерного параллелизма (pipeline parallelism) может оставаться в NVLink на всех 72 GPU, не выходя в сеть. Мы сдаём GB300 NVL72 в аренду на срок от 12 до 36 месяцев и принимаем заявки на бронирование Vera Rubin NVL72.

Как устроен домен NVLink на 72 GPU

В 8-GPU-сервере HGX восемь GPU соединены через NVLink. Всё, что выходит за пределы этих восьми, идёт через сеть кластера, а она даёт гораздо меньшую пропускную способность на GPU, чем NVLink. Крупные задачи обучения и инференса обычно выстраивают с учётом этой границы: тензорный параллелизм — внутри сервера, параллелизм по данным или конвейерный параллелизм — между серверами.

NVL72 отодвигает эту границу до 72 GPU. NVIDIA указывает для стойки суммарную пропускную способность NVLink 130 ТБ/с. У каждого GPU по-прежнему 288 ГБ HBM3e с пропускной способностью около 8 ТБ/с — в сумме около 20 ТБ HBM3e на стойку, а 36 процессоров Grace добавляют 17 ТБ LPDDR5X. По данным, опубликованным NVIDIA, каждый GPU в NVL72 к тому же выдаёт 5 PFLOPS в FP8 без разреженности против 4,5 PFLOPS у B300 в сервере HGX.

У стойки жидкостное охлаждение. Отвод тепла при такой плотности требует инфраструктуры на уровне дата-центра, и она входит в то, что вы арендуете, а не строите сами. Полные характеристики от производителя — на нашей странице GB300 NVL72.

Аренда GB300 NVL72: условия и цены

GB300 NVL72 стоит от 7 990 $ за GPU в месяц. Для полной стойки из 72 GPU это 575 280 $ в месяц по начальной цене. Срок аренды — от 12 до 36 месяцев, в отличие от наших серверов, которые можно арендовать помесячно. Наша команда подтверждает каждую систему в вашем личном кабинете — с конфигурацией, ценой, местоположением и сроками выдачи — до оплаты.

Минимальный срок в 12 месяцев оправдан для длительной программы работ — например, предобучения, за которым следуют постобучение и оценка. Если вы не уверены, что вашей задаче нужен домен на 72 GPU, сначала прочитайте сравнение ниже или начните с сервера HGX B300 с помесячной арендой.

Бронирование Vera Rubin NVL72

Vera Rubin NVL72 — следующее поколение стоечных систем NVIDIA: 72 GPU Rubin по 288 ГБ HBM4 каждый, 36 процессоров Vera и NVLink 6 в стойке с жидкостным охлаждением. В конце 2026 года такие системы доступны в ограниченном количестве, и предзаказ уже открыт. Цены по прайс-листу пока нет: цена указывается в подтверждении вашего бронирования. В примечаниях к заявке на бронирование укажите нужный масштаб, дату, к которой он нужен, и срок, на который вы рассчитываете, а мы ответим, какие мощности можем выдать. При отправке заявки ничего не списывается, а сроки выдачи подтверждаются письменно до оплаты.

Стоечные GPU-системы или несколько серверов HGX?

Те же 72 GPU B300 можно получить и в виде девяти серверов HGX B300. Что выбрать, зависит от того, насколько сильно приходится разделять вашу модель.

Выбирайте NVL72, когда тензорный параллелизм или параллелизм экспертов должен охватывать больше восьми GPU: это очень большие MoE-модели (mixture of experts), чей трафик all-to-all иначе шёл бы через сеть, или конфигурации инференса, чьи веса и KV-кэш не помещаются в 8-GPU-сервер. Выбирайте серверы HGX, когда ваш параллелизм укладывается в восемь GPU, а остальное берёт на себя параллелизм по данным. Вы сохраняете гибкость помесячной аренды и платите меньше за GPU, а мы можем объединить серверы частной сетью.

Как устроен заказ стоечной системы

1. Вы отправляете заявку на бронирование со страницы развёртывания (в той же форме можно создать бесплатный аккаунт или войти в свой) и описываете в примечаниях задачу, масштаб, дату начала и срок аренды. При отправке заявки ничего не списывается.
2. Наши инженеры определяют параметры системы по вашей заявке: конфигурацию, местоположение и самые ранние сроки выдачи, которые мы можем гарантировать.
3. Для заказов стоечных систем может потребоваться проверка согласно нашей политике проверки клиентов. Мы точно сообщим, что нужно и зачем.
4. Мы письменно подтверждаем конфигурацию, цену, местоположение и сроки выдачи — в личном кабинете и по электронной почте — до оплаты. Если мы не уложимся в эти сроки, вы можете отменить заказ в личном кабинете с полным возвратом средств на баланс.

Подбор конфигурации идёт быстрее, если вы сразу укажете:

• размер модели, точность и планируемую схему параллелизма — например, степень тензорного параллелизма, параллелизма экспертов и конвейерного параллелизма;
• сколько данных нужно перенести на систему и куда копировать чекпоинты;
• ваш программный стек. Grace — процессор на архитектуре Arm, поэтому контейнерам и зависимостям Python нужны сборки для arm64. Проверьте собственные пакеты, прежде чем брать на себя обязательства по сроку аренды.

Круглосуточная поддержка инженеров доступна весь срок аренды.