# Аренда сервера с 8 GPU: bare metal на базе NVIDIA HGX и AMD Instinct

> Аренда bare-metal-сервера с 8 GPU: NVIDIA HGX B300, B200, H200, H100, AMD MI355X или 8× RTX PRO 6000. 50 ТБ трафика, помесячно, выдача менее чем за 10 минут.

Источник: https://fullgpu.com/ru/products/8-gpu-servers  
Обновлено: 2026-10-23  
Издатель: FullGPU (https://fullgpu.com/)

## Ключевые моменты

- **Bare metal без гипервизора:** Оба процессора, вся оперативная память, все NVMe-накопители и все восемь GPU в вашем распоряжении, с root-доступом по SSH.
- **NVLink в каждом сервере HGX:** NVIDIA указывает 1,8 ТБ/с на GPU через NVLink 5 у B300 и B200 и 900 ГБ/с через NVLink 4 у H200 и H100.
- **До 2 304 ГБ видеопамяти:** 8 × 288 ГБ у HGX B300 и MI355X, 1 440 ГБ у HGX B200, 1 128 ГБ у HGX H200 и 640 ГБ у HGX H100.
- **Готов к масштабированию:** Восемь адаптеров ConnectX-8 800G у HGX B300, восемь ConnectX-7 400G у HGX B200, H200 и H100 и восемь адаптеров RoCE 400G у MI355X.
- **Включено 50 ТБ трафика:** 50 ТБ исходящего трафика в месяц при добросовестном использовании, без платы за исходящий трафик, а также публичный IPv4-адрес, подсеть IPv6 /64 и защита от DDoS.
- **Помесячная аренда:** Фиксированная цена в месяц, никакой платы за подключение, отмена в любом месяце. Специальные цены на длительный срок и на несколько серверов — через тикет, когда у вас есть активный сервер.

## Рекомендуемые конфигурации

- [8× NVIDIA HGX B300](https://fullgpu.com/ru/gpus/nvidia-b300): 39 900 $ в месяц — 2 304 ГБ HBM3e для самых больших моделей и самых длинных контекстов
- [8× NVIDIA HGX B200](https://fullgpu.com/ru/gpus/nvidia-b200): 34 900 $ в месяц — 1 440 ГБ HBM3e на Blackwell для обучения и инференса
- [8× NVIDIA HGX H200](https://fullgpu.com/ru/gpus/nvidia-h200): 23 900 $ в месяц — 1 128 ГБ HBM3e: модель 405B в BF16 на одном сервере

## Обзор

Аренда сервера с 8 GPU в FullGPU даёт вам целую физическую машину: восемь целых GPU, два серверных процессора, от 1,5 до 4 ТБ оперативной памяти и локальные NVMe-накопители — без гипервизора и без других арендаторов. На выбор — NVIDIA HGX B300, B200, H200 или H100, AMD Instinct MI355X или сервер с восемью картами RTX PRO 6000 Blackwell для задач, которым достаточно PCIe, и у каждого варианта одна фиксированная цена в месяц.

## Что вы получаете при аренде сервера с 8 GPU

На bare-metal-сервере с 8 GPU ваша операционная система работает прямо на оборудовании. Вы получаете root-доступ по SSH, все ядра CPU, все восемь GPU и все локальные накопители. Можно настраивать ядро ОС, привязывать загрузчики данных к нужному узлу NUMA, менять ветку драйвера или запускать собственную среду выполнения контейнеров — в рамках наших правил допустимого использования.

Серверы NVIDIA выдаются с Ubuntu 22.04 или 24.04, в которой уже установлены драйверы NVIDIA, CUDA, Docker и NVIDIA Container Toolkit. Серверы MI355X получают образы ROCm. На каждый сервер распространяется SLA (соглашение об уровне обслуживания) с месячной доступностью 99,9% для электропитания, сети и оборудования, а если мы не выдержим этот уровень, вы получите компенсацию на баланс (service credits).

## Сравнение шести конфигураций

| Сервер | GPU | Связь между GPU | CPU и ОЗУ | Накопители и сеть | Цена в месяц |
| --- | --- | --- | --- | --- | --- |
| NVIDIA HGX B300 | 8 × 288 ГБ HBM3e | NVLink 5 | 2× Xeon 6776P, 128 ядер, 4 ТБ ОЗУ | 8× 3,84 ТБ NVMe, 8× 800G ConnectX-8 | 39 900 $ |
| NVIDIA HGX B200 | 8 × 180 ГБ HBM3e | NVLink 5 | 2× Xeon 8570, 112 ядер, 2 ТБ ОЗУ | 8× 3,84 ТБ NVMe, 8× 400G ConnectX-7 | 34 900 $ |
| NVIDIA HGX H200 | 8 × 141 ГБ HBM3e | NVLink 4 | 2× Xeon 8480+, 112 ядер, 2 ТБ ОЗУ | 8× 3,84 ТБ NVMe, 8× 400G ConnectX-7 | 23 900 $ |
| NVIDIA HGX H100 | 8 × 80 ГБ HBM3 | NVLink 4 | 2× Xeon 8480+, 112 ядер, 2 ТБ ОЗУ | 8× 3,84 ТБ NVMe, 8× 400G ConnectX-7 | 16 900 $ |
| AMD Instinct MI355X | 8 × 288 ГБ HBM3e | Infinity Fabric | 2× EPYC 9575F, 128 ядер, 3 ТБ ОЗУ | 8× 3,84 ТБ NVMe, 8× 400G RoCE | 19 900 $ |
| 8× RTX PRO 6000 Blackwell | 8 × 96 ГБ GDDR7 | PCIe Gen5, без NVLink | 2× EPYC 9555, 128 ядер, 1,5 ТБ ОЗУ | 4× 3,84 ТБ NVMe, 2× 100 GbE | 10 490 $ |

В пересчёте на месяц из 730 часов это около 6,83 $ за GPU-час для HGX B300, 4,09 $ для HGX H200 и 1,80 $ для сервера с RTX PRO 6000.

## Домены NVLink и когда достаточно PCIe

На плате HGX все восемь GPU находятся в одном домене NVLink. Трафик между шардами модели при тензорном параллелизме, операции all-reduce для градиентов и маршрутизация к экспертам в MoE-моделях (mixture of experts) идут через NVLink, а не через PCIe или сеть. По опубликованным спецификациям NVIDIA, NVLink 5 даёт 1,8 ТБ/с каждому GPU B300 и B200, а NVLink 4 — 900 ГБ/с каждому H200 и H100. AMD указывает для каждого GPU MI355X семь каналов Infinity Fabric по 153,6 ГБ/с. После передачи сервера тест NCCL all-reduce подтвердит, что каналы работают как положено; как его запустить, показано в нашем [руководстве по работе с несколькими GPU и NCCL](https://fullgpu.com/ru/docs/multi-gpu-nccl).

Сервер 8× RTX PRO 6000 устроен иначе: его GPU обмениваются данными через PCIe Gen5, NVLink у них нет. Это подходит для задач, в которых каждый GPU работает сам по себе: например, по одной реплике модели на GPU для инференса, рендеринг или пакетная обработка. Хуже такой сервер подходит для обучения с тензорным параллелизмом, где GPU обмениваются данными на каждом шаге. Подробнее этот компромисс разобран в нашем [руководстве по выбору между NVLink и PCIe](https://fullgpu.com/ru/blog/nvlink-vs-pcie).

## Когда стоит выбрать 8 GPU

- **Модель не помещается на один GPU.** Модели 405B только для весов в BF16 нужно примерно 810 ГБ. HGX H200 с 1 128 ГБ вмещает её с запасом под KV-кэш. HGX H100 с 640 ГБ — нет, хотя в FP8 та же модель занимает около 405 ГБ и на нём помещается.
- **Полное дообучение (fine-tuning) крупных моделей.** С Adam закладывайте примерно 16–20 байт на параметр без учёта активаций. Для модели 70B это около 1,1–1,4 ТБ — столько помещается в 2 304 ГБ сервера HGX B300 или MI355X, и ещё остаётся место для активаций.
- **Производительность одной машины.** Обучение с параллелизмом по данным или несколько реплик для инференса, которые получают данные с локальных NVMe и из оперативной памяти объёмом до 4 ТБ.
- **Стоимость в расчёте на GPU.** Сервер HGX H200 стоит 23 900 $ в месяц, а восемь тарифов с одним H200 — 24 720 $.

Если хватает одного GPU, [сервер с одним GPU](https://fullgpu.com/ru/products/single-gpu-servers) обойдётся дешевле. Если не хватает одного сервера, несколько серверов можно объединить [частной сетью](https://fullgpu.com/ru/products/private-networking) или взять стойку [GB300 NVL72](https://fullgpu.com/ru/gpus/nvidia-gb300-nvl72) с единым доменом NVLink на 72 GPU.

## Аренда сервера HGX: накопители, трафик и заказ

В серверах HGX и MI355X установлено восемь NVMe-накопителей по 3,84 ТБ — около 30,7 ТБ сырой ёмкости, а в сервере с RTX PRO 6000 — четыре. Мы не делаем резервных копий локального хранилища, если иное не согласовано письменно, поэтому храните копию чекпоинтов, которые нельзя потерять, в другом месте. Входящий трафик не учитывается, поэтому скачивание датасетов и весов моделей на сервер не расходует ваш месячный лимит в 50 ТБ.

Заказ оформляется так же, как любой заказ в FullGPU: на [странице развёртывания](https://fullgpu.com/ru/deploy) выберите сервер, укажите образ ОС, ПО для предустановки (по желанию) и способ входа (пароль root или SSH-ключ), создайте бесплатный аккаунт или войдите в свой и оплатите первый месяц с баланса. Каждое пополнение составляет от 100 $ до 10 000 $, поэтому для оплаты первого месяца крупного сервера может понадобиться несколько [пополнений криптовалютой](https://fullgpu.com/ru/pay-with-crypto); бонусные средства тоже идут в счёт оплаты. Если на балансе не хватает средств, заказ сохраняется за вами 3 часа и оплачивается автоматически, как только пополнения покроют сумму; если к этому сроку заказ не оплачен, он отменяется и никакие средства не списываются.

Сервер выдаётся менее чем за 10 минут после оплаты, даже если таких серверов мало в наличии, а его IP-адрес и данные для подключения по SSH появляются в личном кабинете. Если оплаченный сервер не выдан в тот же день, вы можете отменить заказ с полным возвратом средств на баланс. Для заказа нескольких 8-GPU-серверов может потребоваться проверка. Когда у вас есть активный сервер, через тикет можно запросить специальные цены на срок от 6 до 12 месяцев и на несколько серверов; актуальный прайс-лист — на нашей [странице цен](https://fullgpu.com/ru/pricing).

## Часто задаваемые вопросы

### 8-GPU-серверы — это bare metal или виртуальные машины?

Bare metal. Весь физический сервер выделяется только вам, с root-доступом по SSH и без гипервизора между вами и восемью GPU.

### Есть ли NVLink в сервере 8× RTX PRO 6000?

Нет. Его GPU соединены через PCIe Gen5, а это лучше подходит для схемы «одна модель на GPU», рендеринга и пакетной обработки, чем для обучения с тензорным параллелизмом. Если нужен NVLink, выбирайте сервер HGX.

### Сколько трафика включено в 8-GPU-сервер?

50 ТБ исходящего трафика в месяц при добросовестном использовании, без платы за исходящий трафик. Входящий трафик не учитывается.

### Можно ли объединить несколько 8-GPU-серверов?

Да. Несколько 8-GPU-серверов можно объединить частной сетью — попросите о ней в примечаниях к заказу, — и у каждого сервера HGX остаются его сетевые адаптеры из спецификации, например 8× 400G ConnectX-7. Если нужен единый домен NVLink на 72 GPU, выбирайте стойку GB300 NVL72.

### Есть ли специальные цены на длительный срок или на несколько серверов?

Да, для клиентов с активным сервером: запросить их можно через тикет. Мы предлагаем специальные цены на срок от 6 до 12 месяцев и на несколько серверов, обычно от трёх.

## Связанные страницы

- [Частная сеть между GPU-серверами](https://fullgpu.com/ru/products/private-networking): Частная сеть между GPU-серверами по запросу: объедините свои серверы FullGPU в изолированную сеть для конвейеров данных и многоузловых задач. Как это работает.
- [Аренда серверов NVIDIA B300 и HGX B300 от 5 190 $ в месяц](https://fullgpu.com/ru/gpus/nvidia-b300): Помесячная аренда B300: выделенный B300 с 288 ГБ за 5 190 $ (≈ 7,11 $ за GPU-час 24/7) или 8-GPU-сервер HGX B300 за 39 900 $. Оплата криптовалютой.
- [B200 vs B300: стоит ли переходить на Blackwell Ultra?](https://fullgpu.com/ru/compare/b200-vs-b300): Сравнение B200 и B300: 180 против 288 ГБ HBM3e, прирост в FP4 и сеть 400G против 800G. Что помещается в память, цена гигабайта и когда достаточно B200.
- [MI355X vs B200: сравнение памяти, программного стека и стоимости](https://fullgpu.com/ru/compare/mi355x-vs-b200): Сравнение MI355X и B200: 288 против 180 ГБ HBM, ROCm или CUDA, 4-битные форматы и стоимость GPU в месяц. Какой 8-GPU-сервер подойдёт вашим моделям и бюджету.
- [Тесты NCCL на сервере с несколькими GPU: all_reduce_perf шаг за шагом](https://fullgpu.com/ru/docs/multi-gpu-nccl): Как запустить тесты NCCL на сервере с несколькими GPU: проверка топологии NVLink, сборка nccl-tests, busbw в all_reduce_perf и запуск задач torchrun на 8 GPU.
- [NVLink или PCIe: пропускная способность, топология и когда это важно](https://fullgpu.com/ru/blog/nvlink-vs-pcie): Сравнение NVLink и PCIe: пропускная способность на GPU, NVSwitch и NVL72, каким задачам на нескольких GPU нужен NVLink, а каким хватает PCIe. С расчётами.